Proračuni znanstvenika pokazali su da će biti nemoguće kontrolirati superinteligentnu umjetnu inteligenciju

O ideji da umjetna inteligencija svrgne ili porobi čovječanstvo govori se desetljećima, a

u siječnju 2021. znanstvenici su donijeli svoju presudu o tome možemo li kontrolirati računalnu superinteligenciju visoke razine. Odgovor: gotovo sigurno ne.

Kvaka je u tome da upravljatesuperinteligencija daleko iznad ljudskog shvaćanja zahtijevat će simulaciju ove superinteligencije koju možemo analizirati. Ali ako to nismo u stanju shvatiti, onda je nemoguće stvoriti takvu simulaciju.

Pravila poput 'ne šteti'ljudi” ne može se ustanoviti ako ne razumijemo do kojih scenarija AI može doći, prema autorima članka iz 2021. Kada računalni sustav radi na razini koja nadilazi mogućnosti naših programera, više ne možemo postavljati ograničenja.

“Superinteligencija predstavljabitno drugačiji problem od onih koji se obično proučavaju pod zastavom “etike robota”, – pišu istraživači. “To je zato što je superinteligencija višestruka i stoga ima potencijal mobilizirati različite resurse za postizanje ciljeva koji su ljudima potencijalno neshvatljivi, a kamoli kontrolirani”.

Ako ćemo promovirati umjetnointeligencije, možda ni ne znamo kada će se superinteligencija, izvan naše kontrole, pojaviti, to je tako neshvatljivo. To znači da moramo početi postavljati ozbiljna pitanja u kojem smjeru idemo.

Izvor: sciencealert, jair

Ilustracije: Yuyeung Lau

</ p>