Idėja sunaikinti žmoniją dirbtiniu intelektu buvo diskutuojama ilgą laiką. Mokslininkai pasidalino savo
Aptarti
Pagautas dalykas yra tas, kad norint valdyti dabartįdirbtiniam intelektui, toli už žmogaus supratimo ribų, reikės šio superintelekto modeliavimo, kurį galėtume analizuoti (ir valdyti). Bet jei mes nesugebame to suprasti, neįmanoma sukurti tokio modeliavimo.
Tokiu atveju žmonės negalės įdiegti dirbtinio intelektoribojančias taisykles, tokias kaip „nekenk žmonėms“. Tačiau, nors žmonija nesugeba sukurti tokio dirbtinio intelekto, lieka neaišku, kada ši riba bus peržengta.