Dell’idea che l’intelligenza artificiale possa rovesciare o schiavizzare l’umanità si parla da molti decenni e
L'inghippo è quello di gestireuna superintelligenza ben oltre la comprensione umana richiederà una simulazione di questa superintelligenza che possiamo analizzare. Ma se non siamo in grado di comprenderlo, allora è impossibile creare una simile simulazione.
Regole come "non nuocere".Non è possibile stabilire le persone se non capiamo quali scenari l’intelligenza artificiale può creare, secondo gli autori dell’articolo del 2021. Quando un sistema informatico funziona a un livello superiore alle capacità dei nostri programmatori, non possiamo più porre limiti.
La superintelligenza rappresentaun problema fondamentalmente diverso da quelli solitamente studiati sotto il segno dell’“etica dei robot”, – scrivono i ricercatori. "Questo perché la superintelligenza è multiforme e quindi ha il potenziale per mobilitare una varietà di risorse per raggiungere obiettivi che sono potenzialmente incomprensibili per gli esseri umani, per non parlare di controllabili".
Se vogliamo promuovere l'artificialeintelligenza, potremmo anche non sapere quando apparirà la superintelligenza, al di fuori del nostro controllo, è così incomprensibile. Ciò significa che dobbiamo iniziare a porci domande serie sulla direzione in cui stiamo andando.
Fonte: sciencealert, Jair
Illustrazioni: Yuyeung Lau
</ p>