O myšlienke umelej inteligencie, ktorá zvrhne alebo zotročí ľudstvo, sa hovorí už mnoho desaťročí
Háčik je v tom, že sa dá zvládnuťsuperinteligencia ďaleko presahujúca ľudské chápanie bude vyžadovať simuláciu tejto superinteligencie, ktorú môžeme analyzovať. Ale ak to nie sme schopní pochopiť, potom je nemožné vytvoriť takúto simuláciu.
Pravidlá ako “neškodiaPodľa autorov článku z roku 2021 nie je možné určiť ľudí, ak nerozumieme, aké scenáre môže AI vymyslieť. Keď počítačový systém funguje na úrovni, ktorá presahuje možnosti našich programátorov, už nemôžeme dávať limity.
“Superinteligencia predstavujezásadne odlišný problém, než ktorý sa zvyčajne študuje pod hlavičkou “robotickej etiky”, – píšu výskumníci. “Je to preto, že superinteligencia je mnohostranná, a preto má potenciál mobilizovať rôzne zdroje na dosiahnutie cieľov, ktoré sú pre ľudí potenciálne nepochopiteľné, nieto ešte kontrolovateľné”.
Ak ideme propagovať umeléinteligencia, možno ani nevieme, kedy sa superinteligencia, mimo našej kontroly, objaví, je to také nepochopiteľné. To znamená, že si musíme začať klásť vážne otázky o tom, akým smerom sa uberáme.
Zdroj: sciencealert, jair
Ilustrácie: Yuyeung Lau
</ p>