Az AI-rendszerek már most is aggodalomra adnak okot, különösen azok, amelyek más gépeket is vezérelhetnek. Sok
Tegyük fel, hogy valakinek programoznia kellmesterséges intelligencia-rendszer, amely kiváló emberi intelligenciával rendelkezik, így embertől függetlenül tanulhat. Ekkor az internethez kapcsolt mesterséges intelligencia hozzáférhet az emberiség összes adatához. Emellett képes lesz az összes létező program cseréjére, és átveheti az irányítást a világ minden gépén. Megtörténik ez az utópia vagy disztópia? Képes-e az AI gyógyítani a rákot, megalapozni a világbékét és megfordítani az éghajlati katasztrófát? Vagy elpusztítja az emberiséget és átveszi a Földet?
Számítógépes tudósok és filozófusok azon tűnődnek, vajon képesek leszünk-e egyáltalán irányítani a szuperintelligens mesterséges intelligencia működését annak érdekében, hogy az ne jelentsen veszélyt az emberiségre.
"A világot irányító szuperintelligens gép,tudományos fantasztikumnak hangzik. De már vannak olyan gépek, amelyek bizonyos fontos feladatokat teljesen függetlenül hajtanak végre, és a programozók nem teljesen értik, hogyan tanulták ezt meg. Ezért felmerül a kérdés, hogy ez egy bizonyos ponton ellenőrizhetetlenné és veszélyesvé válhat-e az emberiség számára ”- mondja Manuel Sebrian, a tanulmány társszerzője, a Max Planck Humán Fejlesztési Intézet Emberek és Gépek Központjának digitális mobilizációs csoportjának vezetője.
A tudósok két különböző elképzelést tártak fel, hogyanszuperintelligens AI vezérelhető. Egyrészt a szuperintelligens AI képességeit kifejezetten korlátozni lehetne, például az internet és az összes többi technikai eszköz elkülönítésével, hogy ne tudjon kapcsolatba lépni a külvilággal, de ettől a szuperintelligens AI sokkal kevésbé hatékony és kevésbé képes reagálni a humanitárius feladatokra. ... Ilyen lehetőség nélkül az AI-t kezdettől fogva arra lehetne motiválni, hogy csak az emberiség érdekeinek megfelelő célokat kövessen, például etikai elvek programozásával. A kutatók azonban azt is kimutatták, hogy ezeknek és más modern és történelmi ötleteknek a szuperintelligens AI ellenőrzésére korlátai vannak.
Kutatásuk során a csapat fejlődöttelméleti elszigetelési algoritmus, amely biztosítja, hogy a szuperintelligens mesterséges intelligencia semmilyen körülmények között sem károsíthatja az embereket, először szimulálva az AI viselkedését, és megállítva, ha károsnak tekintik. Ám a gondos elemzés azt mutatja, hogy jelenlegi számítási paradigmánkban ilyen algoritmus nem építhető fel.
„Ha a problémát alapszabályokra bontjukelméleti számítástechnika, kiderült, hogy egy algoritmus, amely megmondaná az AI-nek, hogy ne rombolja le a világot, akaratlanul is leállíthatja saját működését. Ha ez megtörténne, nem tudná, hogy a korlátozó algoritmus elemzi-e még a fenyegetést, és ha leállította, hogy rosszindulatú AI-t tartalmazzon. Lényegében ez használhatatlanná teszi a tároló algoritmust ”- mondja Iyad Rahwan, az Emberek és Gépek Központjának igazgatója.
Ezen számítások alapján a befogadás problémája nem kivitelezhető, vagyis egyetlen algoritmus sem talál megoldást annak meghatározására, hogy az AI árt-e a világnak vagy sem.
Lásd még:
Az Argentin Egészségügyi Minisztérium a Sputnik V-t kapók mellékhatásaira vonatkozó adatokat közölt
A kacsacsőrű emlősök, madarak és hüllők genetikai keverékének bizonyult
Abortusz és tudomány: mi lesz a gyerekekkel, akik szülni fognak