Идеята за унищожаване на човечеството с изкуствен интелект се обсъжда от дълго време. Учените споделиха своите
Обсъдете
Уловката е, че за да се контролира настоящетоизкуственият интелект, далеч отвъд човешкото разбиране, ще се нуждае от симулация на този суперинтелект, който можем да анализираме (и контролираме). Но ако не сме в състояние да разберем това, е невъзможно да създадем такава симулация.
В този случай хората няма да могат да инсталират за AIограничителни правила като „не наранявайте хората“. Въпреки това, докато човечеството не е в състояние да създаде такъв изкуствен интелект, но остава неясно в кой момент този праг ще бъде преодолян.