Výpočty vědců ukázaly, že nebude možné ovládat superinteligentní AI

O myšlence umělé inteligence, která svrhne nebo zotročí lidstvo, se mluví již mnoho desetiletí

v lednu 2021 vědci vynesli svůj verdikt, zda dokážeme ovládat počítačovou superinteligenci na vysoké úrovni. Odpověď: téměř jistě ne.

Háček je v tom, že se dá zvládnoutsuperinteligence daleko přesahující lidské chápání bude vyžadovat simulaci této superinteligence, kterou můžeme analyzovat. Ale pokud to nejsme schopni pochopit, pak je nemožné takovou simulaci vytvořit.

Pravidla jako “neškodílidi nelze zjistit, pokud nerozumíme tomu, jaké scénáře může AI vymyslet, tvrdí autoři článku z roku 2021. Když počítačový systém funguje na úrovni přesahující možnosti našich programátorů, nemůžeme už nastavovat limity.

“Superinteligence představujezásadně odlišný problém, než který se obvykle studuje pod hlavičkou “robotické etiky”, – píšou výzkumníci. “Je to proto, že superinteligence je mnohostranná, a proto má potenciál mobilizovat různé zdroje k dosažení cílů, které jsou pro člověka potenciálně nepochopitelné, natož kontrolovatelné”.

Pokud budeme propagovat uměléinteligence, možná ani nevíme, kdy se superinteligence, mimo naši kontrolu, objeví, je to tak nepochopitelné. To znamená, že si musíme začít klást vážné otázky o tom, jakým směrem se ubíráme.

Zdroj: sciencealert, jair

Ilustrace: Yuyeung Lau

</ p>