О идеји уништавања човечанства вештачком интелигенцијом се већ дуго расправља. Научници су поделили своје
Дисцусс
Квака је у томе да се контролише садашњоствештачкој интелигенцији, далеко изван људског разумевања, биће потребна симулација ове суперинтелигенције коју можемо анализирати (и контролисати). Али ако ово нисмо у стању да разумемо, немогуће је направити такву симулацију.
У овом случају, људи неће моћи да инсталирају за АИрестриктивна правила као што је „не повређује људе“. Међутим, док човечанство није у стању да створи такву вештачку интелигенцију, остаје нејасно у ком тренутку ће овај праг бити превазиђен.