Ideen om at ødelægge menneskeheden med kunstig intelligens har været diskuteret i lang tid. Forskere delte deres
Diskutere
Fangsten er, at for at kontrollere nuetkunstig intelligens, langt ud over menneskelig forståelse, vil have brug for en simulering af denne superintelligens, som vi kan analysere (og kontrollere). Men hvis vi ikke er i stand til at forstå dette, er det umuligt at lave sådan en simulering.
I dette tilfælde vil folk ikke være i stand til at installere til AIrestriktive regler som "ikke skade mennesker". Men mens menneskeheden ikke er i stand til at skabe en sådan kunstig intelligens, er det stadig uklart, på hvilket tidspunkt denne tærskel vil blive overvundet.