Ideen om kunstig intelligens som styrter eller slavebinder menneskeheten har blitt snakket om i mange tiår, og
Haken er at å klare segsuperintelligens langt utover menneskelig forståelse vil kreve en simulering av denne superintelligensen som vi kan analysere. Men hvis vi ikke er i stand til å forstå det, så er det umulig å lage en slik simulering.
Такие правила, как “не причинять вреда людям”, не могут быть установлены, если мы не понимаем, какие сценарии может придумать ИИ, считают авторы статьи 2021 года. Когда компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения.
“Сверхинтеллект представляет собой et fundamentalt annet problem enn de som vanligvis studeres under banneret “robotetikk”, – skriver forskerne. “Dette er fordi superintelligens er mangefasettert og derfor har potensial til å mobilisere en rekke ressurser for å oppnå mål som er potensielt uforståelige for mennesker, enn si kontrollerbare”.
Hvis vi skal fremme kunstigintelligens, vi vet kanskje ikke engang når en superintelligens vil dukke opp utenfor vår kontroll, det er så uforståelig. Det betyr at vi må begynne å stille seriøse spørsmål om hvor vi skal.
Kilde: sciencealert, jair
Illustrasjoner: Yuyeung Lau
</ p>