تثير أنظمة الذكاء الاصطناعي القلق بالفعل، خاصة تلك التي يمكنها التحكم في الأجهزة الأخرى. كثير
افترض أن شخصًا ما يحتاج إلى البرمجةنظام ذكاء اصطناعي يتمتع بذكاء بشري فائق بحيث يمكنه التعلم بشكل مستقل عن الإنسان. بعد ذلك ، سيتمكن الذكاء الاصطناعي المتصل بالإنترنت من الوصول إلى جميع بيانات البشرية. سيتمكن أيضًا من استبدال جميع البرامج الحالية والتحكم في جميع الأجهزة حول العالم. هل ستحدث هذه اليوتوبيا أو الواقع المرير؟ هل يستطيع الذكاء الاصطناعي علاج السرطان وإحلال السلام العالمي وتجنب كارثة المناخ؟ أم أنها ستدمر البشرية وتستولي على الأرض؟
ويتساءل علماء الكمبيوتر والفلاسفة عما إذا كنا سنكون قادرين على التحكم في الذكاء الاصطناعي الفائق الذكاء لضمان أنه لا يشكل تهديدا للبشرية.
"الآلة فائقة الذكاء التي تحكم العالم ،يبدو مثل الخيال العلمي. ولكن هناك بالفعل آلات تؤدي مهامًا مهمة معينة بشكل مستقل تمامًا ، ولا يفهم المبرمجون تمامًا كيف تعلموا ذلك. لذلك ، فإن السؤال الذي يطرح نفسه هو ما إذا كان هذا يمكن أن يصبح في مرحلة ما غير خاضع للسيطرة وخطيرًا على البشرية "، كما يقول المؤلف المشارك في الدراسة مانويل سيبريان ، رئيس مجموعة التعبئة الرقمية في مركز الأفراد والآلات في معهد ماكس بلانك للتنمية البشرية.
اكتشف العلماء فكرتين مختلفتين عن الكيفيةيمكن التحكم في الذكاء الاصطناعي الفائق. من ناحية أخرى ، يمكن أن تكون قدرات الذكاء الاصطناعي الخارق محدودة بشكل خاص ، على سبيل المثال ، من خلال عزلها عن الإنترنت وجميع الأجهزة التقنية الأخرى بحيث لا يمكنها الاتصال بالعالم الخارجي ، ولكن هذا من شأنه أن يجعل الذكاء الاصطناعي الفائق أقل قوة وأقل قدرة على الاستجابة للمهام الإنسانية. ... بدون هذه الفرصة ، يمكن للذكاء الاصطناعي منذ البداية أن يكون الدافع وراء السعي وراء الأهداف التي تلبي مصالح البشرية فقط ، على سبيل المثال ، من خلال برمجة المبادئ الأخلاقية فيه ومع ذلك ، أظهر الباحثون أيضًا أن هذه الأفكار وغيرها من الأفكار الحديثة والتاريخية للتحكم في الذكاء الاصطناعي الفائق لها حدودها.
في بحثهم ، تطور الفريقخوارزمية احتواء نظرية تضمن عدم قدرة الذكاء الاصطناعي الخارق على إلحاق الضرر بالبشر تحت أي ظرف من الظروف عن طريق محاكاة سلوك الذكاء الاصطناعي أولاً وإيقافه إذا اعتُبر ضارًا. لكن التحليل الدقيق يظهر أنه في نموذج الحوسبة الحالي لدينا ، لا يمكن بناء مثل هذه الخوارزمية.
إذا حللنا المشكلة إلى قواعد أساسيةعلم الكمبيوتر النظري ، اتضح أن الخوارزمية التي تخبر الذكاء الاصطناعي بعدم تدمير العالم يمكن أن توقف عملياتها عن غير قصد. إذا حدث هذا ، فلن تعرف ما إذا كانت خوارزمية الاحتواء ستستمر في تحليل التهديد ، وما إذا كانت قد أوقفته لاحتواء ذكاء اصطناعي ضار. في الواقع ، هذا يجعل خوارزمية الاحتواء غير قابلة للاستخدام "، كما يقول إياد رهوان ، مدير مركز الأشخاص والآلات.
بناءً على هذه الحسابات ، فإن مشكلة الاحتواء غير مجدية ، أي أنه لا يمكن لأي خوارزمية إيجاد حل لتحديد ما إذا كان الذكاء الاصطناعي سيضر العالم أم لا.
انظر أيضا:
كشفت وزارة الصحة الأرجنتينية عن معطيات حول الآثار الجانبية لمن تلقوا "سبوتنيك الخامس"
تبين أن خلد الماء هو مزيج وراثي من الثدييات والطيور والزواحف
الإجهاض والعلم: ماذا سيحدث للأطفال الذين سينجبون