Het idee om de mensheid te vernietigen met kunstmatige intelligentie wordt al lang besproken. Wetenschappers deelden hun
Bespreken
De vangst is dat om het heden te beheersenkunstmatige intelligentie, die het menselijk begrip ver te boven gaat, heeft een simulatie van deze superintelligentie nodig die we kunnen analyseren (en controleren). Maar als we dit niet kunnen begrijpen, is het onmogelijk om zo'n simulatie te maken.
In dit geval kunnen mensen niet installeren voor AIbeperkende regels zoals "doe mensen geen kwaad". Hoewel de mensheid niet in staat is om zo'n kunstmatige intelligentie te creëren, blijft het onduidelijk op welk punt deze drempel zal worden overschreden.