Ideja iznīcināt cilvēci ar mākslīgo intelektu ir apspriesta jau ilgu laiku. Zinātnieki dalījās savās
Pārrunāt
Nozveja ir tā, lai kontrolētu tagadnimākslīgajam intelektam, kas tālu pārsniedz cilvēka izpratni, būs nepieciešama šī superintelekta simulācija, ko mēs varam analizēt (un kontrolēt). Bet, ja mēs to nespējam saprast, nav iespējams izveidot šādu simulāciju.
Šajā gadījumā cilvēki nevarēs instalēt AIierobežojoši noteikumi, piemēram, "nekaitējiet cilvēkiem". Tomēr, lai gan cilvēce nespēj radīt šādu mākslīgo intelektu, joprojām nav skaidrs, kurā brīdī šis slieksnis tiks pārvarēts.