AI-systemen zijn al een punt van zorg, vooral degenen die in staat zijn om andere machines te besturen.Veel
Stel dat iemand moet programmereneen systeem van kunstmatige intelligentie met superieure menselijke intelligentie zodat het onafhankelijk van een mens kan leren. Dan heeft de AI die met internet is verbonden toegang tot alle gegevens van de mensheid. Hij zal ook alle bestaande programma's kunnen vervangen en de controle over alle machines over de hele wereld overnemen. Zal deze utopie of dystopie gebeuren? Kan AI kanker genezen, wereldvrede tot stand brengen en klimaatrampen voorkomen? Of zal het de mensheid vernietigen en de aarde overnemen?
Computerwetenschappers en filosofen vragen zich af of we superintelligente AI überhaupt kunnen beheren om ervoor te zorgen dat dit niet het geval isvormen een bedreiging voor de mensheid.
"De superintelligente machine die de wereld regeert,klinkt als sciencefiction. Maar er zijn al machines die bepaalde belangrijke taken volledig zelfstandig uitvoeren, en programmeurs begrijpen niet helemaal hoe ze dit hebben geleerd. Daarom rijst de vraag of dit op een gegeven moment oncontroleerbaar en gevaarlijk zou kunnen worden voor de mensheid ”, zegt co-auteur Manuel Sebrian, hoofd van de digitale mobilisatiegroep bij het Centrum voor Mensen en Machines van het Max Planck Instituut voor Menselijke Ontwikkeling.
Wetenschappers hebben twee verschillende ideeën onderzocht over hoesuperintelligente AI kan worden bestuurd. Enerzijds zouden de mogelijkheden van de superintelligente AI specifiek beperkt kunnen worden, bijvoorbeeld door hem te isoleren van internet en alle andere technische apparaten zodat hij geen contact kan maken met de buitenwereld, maar dit zou de superintelligente AI veel minder krachtig maken en minder in staat zijn om te reageren op humanitaire opdrachten. ... Zonder een dergelijke kans zou AI vanaf het begin gemotiveerd kunnen worden om alleen doelen na te streven die tegemoetkomen aan de belangen van de mensheid, bijvoorbeeld door er ethische principes in te programmeren. De onderzoekers laten echter ook zien dat deze en andere moderne en historische ideeën voor het beheersen van superintelligente AI hun grenzen kennen.
In hun onderzoek ontwikkelde het team zicheen theoretisch insluitingsalgoritme dat ervoor zorgt dat superintelligente AI mensen onder geen enkele omstandigheid kan schaden door eerst het gedrag van de AI te simuleren en het te stoppen als het schadelijk wordt geacht. Maar zorgvuldige analyse toont aan dat in ons huidige computerparadigma een dergelijk algoritme niet kan worden gebouwd.
“Als we het probleem opsplitsen in basisregelstheoretische informatica blijkt dat een algoritme dat AI zou vertellen de wereld niet te vernietigen, per ongeluk zijn eigen operaties zou kunnen stoppen. Als dit zou gebeuren, zou je niet weten of het insluitingsalgoritme de dreiging nog steeds zou analyseren en of het zou stoppen om kwaadaardige AI te bevatten. Dit maakt het inperkingsalgoritme in wezen onbruikbaar ”, zegt Iyad Rahwan, directeur van het Center for People and Machines.
Op basis van deze berekeningen is het probleem van containment niet haalbaar, dat wil zeggen dat geen enkel algoritme een oplossing kan vinden om te bepalen of AI de wereld zal schaden of niet.
Zie ook:
Het ministerie van Volksgezondheid van Argentinië heeft gegevens bekendgemaakt over bijwerkingen bij degenen die "Sputnik V" kregen.
Platypus bleek een genetische mix te zijn van zoogdieren, vogels en reptielen
Abortus en wetenschap: wat gebeurt er met de kinderen die zullen bevallen