AI sistēmas jau rada bažas, īpaši tās, kas var kontrolēt citas mašīnas. Daudzi
Pieņemsim, ka kādam ir jāprogrammēmākslīgā intelekta sistēma ar augstāku cilvēka intelektu, lai tā varētu mācīties neatkarīgi no cilvēka. Tad AI, kas savienots ar internetu, būs piekļuve visiem cilvēces datiem. Viņš arī varēs aizstāt visas esošās programmas un pārņemt kontroli pār visām mašīnām visā pasaulē. Vai notiks šī utopija vai distopija? Vai AI var izārstēt vēzi, nodibināt mieru pasaulē un novērst klimata katastrofu? Vai arī tas iznīcinās cilvēci un pārņems Zemi?
Datorzinātnieki un filozofi brīnās, vai mēs vispār spēsim kontrolēt superinteliģento AI, lai nodrošinātu, ka tas nerada draudus cilvēcei.
"Izlūkošā mašīna, kas pārvalda pasauli,izklausās pēc zinātniskās fantastikas. Bet jau ir mašīnas, kas dažus svarīgus uzdevumus veic pilnīgi neatkarīgi, un programmētāji pilnībā nesaprot, kā viņi to iemācījās. Tāpēc rodas jautājums, vai tas kādā brīdī var kļūt nekontrolējams un bīstams cilvēcei, ”saka pētījuma līdzautors Manuels Sebrians, Maksas Plankas Cilvēka attīstības institūta Cilvēku un mašīnu centra digitālās mobilizācijas grupas vadītājs.
Zinātnieki ir izpētījuši divas dažādas idejas par tosuperinteligent AI var kontrolēt. No vienas puses, superinteliģenta AI iespējas varētu tikt īpaši ierobežotas, piemēram, izolējot to no interneta un visām citām tehniskām ierīcēm, lai tā nevarētu sazināties ar ārpasauli, taču tas superinteliģentu AI padarītu daudz mazāk spēcīgu un mazāk spējīgu reaģēt uz humānās palīdzības uzdevumiem. ... Bez šādas iespējas AI jau no paša sākuma varētu būt motivēts sasniegt tikai tādus mērķus, kas atbilst cilvēces interesēm, piemēram, ieprogrammējot tajā ētikas principus. Tomēr pētnieki arī parāda, ka šīm un citām mūsdienu un vēsturiskajām idejām superinteligent AI kontrolēšanai ir savas robežas.
Savos pētījumos komanda attīstījāsteorētisks ierobežošanas algoritms, kas nodrošina, ka inteliģentais AI nekādā gadījumā nevar kaitēt cilvēkiem, vispirms simulējot AI uzvedību un apturot to, ja tā tiek uzskatīta par kaitīgu. Bet rūpīga analīze rāda, ka mūsu pašreizējā skaitļošanas paradigmā šādu algoritmu nevar izveidot.
“Ja mēs sadalām problēmu pamatnoteikumosteorētiskā datorzinātne, izrādās, ka algoritms, kas liks AI nesagraut pasauli, var netīšām pārtraukt savas darbības. Ja tas notiks, jūs nezināt, vai ierobežošanas algoritms joprojām analizēs draudus un vai tas tos apturēs, lai saturētu ļaunprātīgu AI. Būtībā tas ierobežošanas algoritmu padara nelietojamu, ”saka Iyad Rahwan, Cilvēku un mašīnu centra direktors.
Pamatojoties uz šiem aprēķiniem, ierobežošanas problēma nav iespējama, tas ir, neviens algoritms nevar atrast risinājumu, lai noteiktu, vai AI kaitēs pasaulei vai nē.
Skatiet arī:
Argentīnas Veselības ministrija ir atklājusi datus par blakusparādībām tiem, kuri saņēma "Sputnik V"
Platypus izrādījās ģenētisks maisījums no zīdītājiem, putniem un rāpuļiem
Aborts un zinātne: kas notiks ar bērniem, kas dzemdēs