لقد نوقشت فكرة تدمير البشرية بالذكاء الاصطناعي لفترة طويلة. شارك العلماء بهم
يناقش
المهم هو أنه من أجل السيطرة على الحاضرسيحتاج الذكاء الاصطناعي ، بعيدًا عن الفهم البشري ، إلى محاكاة هذا الذكاء الخارق الذي يمكننا تحليله (والتحكم فيه). ولكن إذا لم نتمكن من فهم ذلك ، فمن المستحيل إنشاء مثل هذه المحاكاة.
في هذه الحالة ، لن يتمكن الأشخاص من التثبيت لـ AIالقواعد التقييدية مثل "لا تؤذي الناس". ومع ذلك ، في حين أن البشرية غير قادرة على إنشاء مثل هذا الذكاء الاصطناعي ، إلا أنه لا يزال من غير الواضح في أي نقطة سيتم التغلب على هذه العتبة.