Obliczenia naukowców wykazały, że nie da się kontrolować superinteligentnej sztucznej inteligencji

O idei obalenia lub zniewolenia ludzkości przez sztuczną inteligencję mówi się od wielu dziesięcioleci

w styczniu 2021 r. naukowcy wydali werdykt na temat tego, czy możemy kontrolować superinteligencję komputerową wysokiego szczebla. Odpowiedź: prawie na pewno nie.

Haczyk polega na tym, aby zarządzaćsuperinteligencja daleko wykraczająca poza ludzkie zrozumienie będzie wymagała symulacji tej superinteligencji, którą będziemy mogli analizować. Ale jeśli nie jesteśmy w stanie tego pojąć, to nie da się stworzyć takiej symulacji.

Zasady takie jak: „Nie szkodzić”.zdaniem autorów artykułu z 2021 r. nie da się ustalić, jakie są scenariusze, jeśli nie zrozumiemy, jakie scenariusze może wymyślić sztuczna inteligencja. Kiedy system komputerowy działa na poziomie przekraczającym możliwości naszych programistów, nie możemy już stawiać granic.

„Superinteligencja reprezentujezasadniczo inny problem niż te, które zwykle bada się pod hasłem „etyki robotów”, „etyki robotów”, piszą badacze. „Dzieje się tak, ponieważ superinteligencja jest wieloaspektowa i dlatego może mobilizować różnorodne zasoby, aby osiągnąć cele, które są potencjalnie niezrozumiałe dla ludzi, a tym bardziej możliwe do kontrolowania”.

Jeśli będziemy promować sztuczneinteligencja, możemy nawet nie wiedzieć, kiedy pojawi się superinteligencja poza naszą kontrolą, jest to tak niezrozumiałe. Oznacza to, że musimy zacząć zadawać poważne pytania dotyczące tego, dokąd zmierzamy.

Źródło: sciencealert, jair

Ilustracje: Yuyeung Lau

</ p>