I sistemi di intelligenza artificiale stanno già suscitando preoccupazione, soprattutto quelli in grado di controllare altre macchine. Molti
Supponiamo che qualcuno debba programmareun sistema di intelligenza artificiale con intelligenza umana superiore in modo che possa apprendere indipendentemente da un essere umano. Quindi l'IA connessa a Internet avrà accesso a tutti i dati dell'umanità. Sarà anche in grado di sostituire tutti i programmi esistenti e assumere il controllo di tutte le macchine in tutto il mondo. Accadrà questa utopia o distopia? L'IA può curare il cancro, stabilire la pace nel mondo ed evitare la catastrofe climatica? O distruggerà l'umanità e conquisterà la Terra?
Gli informatici e i filosofi si chiedono se saremo in grado di controllare l’intelligenza artificiale superintelligente per garantire che non rappresenti una minaccia per l’umanità.
"La macchina superintelligente che governa il mondo,suona come fantascienza. Ma ci sono già macchine che eseguono determinati compiti importanti in modo completamente indipendente ei programmatori non comprendono appieno come l'hanno imparato. Pertanto, sorge la domanda se a un certo punto potrebbe diventare incontrollabile e pericoloso per l'umanità ", afferma il coautore dello studio Manuel Sebrian, capo del gruppo di mobilitazione digitale presso il Centro per le persone e le macchine presso l'Istituto Max Planck per lo sviluppo umano.
Gli scienziati hanno esplorato due diverse idee su comeL'IA superintelligente può essere controllata. Da un lato, le capacità dell'IA superintelligente potrebbero essere limitate in modo specifico, ad esempio isolandola da Internet e da tutti gli altri dispositivi tecnici in modo che non possa contattare il mondo esterno, ma ciò renderebbe l'IA superintelligente molto meno potente e meno in grado di rispondere agli incarichi umanitari. ... Senza tale opportunità, l'intelligenza artificiale fin dall'inizio potrebbe essere motivata a perseguire solo obiettivi che soddisfano gli interessi dell'umanità, ad esempio programmando principi etici in essa. Tuttavia, i ricercatori mostrano anche che queste e altre idee moderne e storiche per il controllo dell'IA superintelligente hanno i loro limiti.
Nella loro ricerca, il team si è sviluppatoun algoritmo di contenimento teorico che garantisce che l'IA superintelligente non possa danneggiare gli esseri umani in nessuna circostanza, simulando prima il comportamento dell'IA e interrompendolo se ritenuto dannoso. Ma un'attenta analisi mostra che nel nostro attuale paradigma di calcolo, un tale algoritmo non può essere costruito.
“Se scomponiamo il problema in regole di baseinformatica teorica, si scopre che un algoritmo che direbbe all'IA di non distruggere il mondo potrebbe inavvertitamente interrompere le proprie operazioni. Se ciò accadesse, non sapresti se l'algoritmo di contenimento analizzerebbe ancora la minaccia e se lo fermasse per contenere AI dannosi. In sostanza, questo rende inutilizzabile l'algoritmo di contenimento ", afferma Iyad Rahwan, direttore del Center for People and Machines.
Sulla base di questi calcoli, il problema del contenimento non è fattibile, ovvero nessun algoritmo può trovare una soluzione per determinare se l'IA danneggerà o meno il mondo.
Vedi anche:
Il Ministero della Salute dell'Argentina ha divulgato i dati sugli effetti collaterali in coloro che hanno ricevuto "Sputnik V"
L'ornitorinco si è rivelato una miscela genetica di mammiferi, uccelli e rettili
Aborto e scienza: cosa succederà ai bambini che partoriranno