AI sustavi već izazivaju zabrinutost, posebno oni koji mogu kontrolirati druge strojeve. Puno
Pretpostavimo da netko treba programiratisustav umjetne inteligencije s vrhunskom ljudskom inteligencijom, tako da može učiti neovisno o čovjeku. Tada će AI spojen na Internet imati pristup svim podacima čovječanstva. Također će moći zamijeniti sve postojeće programe i preuzeti kontrolu nad svim strojevima širom svijeta. Hoće li se dogoditi ova utopija ili distopija? Hoće li AI moći izliječiti rak, donijeti svjetski mir i spriječiti klimatsku katastrofu? Ili će uništiti čovječanstvo i zavladati Zemljom?
Računalni znanstvenici i filozofi pitaju se hoćemo li uopće moći kontrolirati superinteligentnu umjetnu inteligenciju kako bismo osigurali da ne predstavlja prijetnju čovječanstvu.
"Superinteligentni stroj koji vlada svijetom,zvuči poput znanstvene fantastike. No, već postoje strojevi koji određene važne zadatke izvode potpuno neovisno, a programeri ne razumiju u potpunosti kako su to naučili. Stoga se postavlja pitanje bi li u nekom trenutku mogao postati nekontroliran i opasan za čovječanstvo ”, kaže koautor studije Manuel Sebrian, voditelj grupe za digitalnu mobilizaciju u Centru za ljude i strojeve na Institutu Max Planck za ljudski razvoj.
Znanstvenici su istražili dvije različite ideje kakosuperinteligentni AI se može kontrolirati. S jedne strane, mogućnosti superinteligentne umjetne inteligencije mogle bi se posebno ograničiti, na primjer, izolirajući je od Interneta i svih ostalih tehničkih uređaja tako da ne može stupiti u kontakt s vanjskim svijetom, ali to bi superinteligentnu umjetnu inteligenciju učinilo mnogo manje snažnom i manje sposobnom odgovoriti na humanitarne zadatke ... Bez takve mogućnosti, AI bi od samog početka mogao biti motiviran da slijedi samo ciljeve koji udovoljavaju interesima čovječanstva, na primjer, tako što će u njega programirati etička načela. Međutim, istraživači također pokazuju da ove i druge moderne i povijesne ideje za kontrolu nadinteligentne umjetne inteligencije imaju svoja ograničenja.
U svom istraživanju tim se razvioteoretski algoritam ograničavanja koji osigurava da superinteligentna umjetna inteligencija ni pod kojim okolnostima ne može naštetiti ljudima tako što prvo simulira ponašanje AI i zaustavi ga ako se smatra štetnim. Ali pažljiva analiza pokazuje da se u našoj trenutnoj računalnoj paradigmi takav algoritam ne može izgraditi.
“Ako problem rastavimo na osnovna pravilateoretske računalne znanosti, ispada da bi algoritam koji bi AI rekao da ne uništava svijet mogao nehotice zaustaviti vlastito djelovanje. Da se to dogodilo, ne biste znali hoće li algoritam zadržavanja i dalje analizirati prijetnju i je li zaustavio da sadrži zlonamjerni AI. U osnovi to čini algoritam zadržavanja neupotrebljivim ”, kaže Iyad Rahwan, direktor Centra za ljude i strojeve.
Na temelju tih izračuna, problem zadržavanja nije izvediv, odnosno niti jedan algoritam ne može pronaći rješenje kojim bi se utvrdilo hoće li AI naštetiti svijetu ili ne.
Pogledajte i:
Ministarstvo zdravlja Argentine otkrilo je podatke o nuspojavama kod onih koji su dobili "Sputnik V"
Ispostavilo se da je Platypus genetska mješavina sisavaca, ptica i gmazova
Pobačaj i znanost: što će se dogoditi s djecom koja će roditi