Dugo se raspravlja o ideji uništenja čovječanstva umjetnom inteligencijom. Znanstvenici su podijelili svoje
Raspravljati
Kvaka je u tome da bi se kontrolirala sadašnjostumjetna inteligencija, daleko iznad ljudskog razumijevanja, trebat će simulaciju ove superinteligencije koju možemo analizirati (i kontrolirati). Ali ako to nismo u stanju razumjeti, nemoguće je stvoriti takvu simulaciju.
U tom slučaju ljudi neće moći instalirati za AIrestriktivna pravila kao što je "nemoj nauditi ljudima". Međutim, iako čovječanstvo nije u stanju stvoriti takvu umjetnu inteligenciju, ostaje nejasno u kojoj će točki taj prag biti prevladan.