Ajatus ihmiskunnan tuhoamisesta tekoälyllä on keskusteltu pitkään. Tiedemiehet jakoivat
Keskustella
Saalis on nykyhetken hallitseminentekoäly, joka on paljon ihmisen ymmärryksen ulkopuolella, tarvitsee tämän superälyn simulaation, jota voimme analysoida (ja hallita). Mutta jos emme pysty ymmärtämään tätä, on mahdotonta luoda tällaista simulaatiota.
Tässä tapauksessa ihmiset eivät voi asentaa tekoälyärajoittavia sääntöjä, kuten "älä vahingoita ihmisiä". Vaikka ihmiskunta ei kuitenkaan pysty luomaan tällaista tekoälyä, on epäselvää, missä vaiheessa tämä kynnys ylitetään.