แนวคิดในการทำลายมนุษยชาติด้วยปัญญาประดิษฐ์นั้นมีการพูดคุยกันมานานแล้ว นักวิทยาศาสตร์ได้แบ่งปันของพวกเขา
หารือ
ที่จับได้คือเพื่อควบคุมปัจจุบันปัญญาประดิษฐ์ ซึ่งอยู่เหนือความเข้าใจของมนุษย์ จะต้องมีการจำลองความฉลาดหลักแหลมนี้ ซึ่งเราสามารถวิเคราะห์ (และควบคุมได้) แต่ถ้าเราไม่เข้าใจสิ่งนี้ ก็เป็นไปไม่ได้ที่จะสร้างแบบจำลองดังกล่าว
ในกรณีนี้ คนจะติดตั้ง AI . ไม่ได้กฎเกณฑ์ที่เข้มงวดเช่น "อย่าทำร้ายผู้คน" อย่างไรก็ตาม ในขณะที่มนุษยชาติไม่สามารถสร้างปัญญาประดิษฐ์ดังกล่าวได้ แต่ก็ยังไม่ชัดเจนว่าจะเอาชนะเกณฑ์นี้ไปถึงจุดใด