قال الذكاء الاصطناعي للمريض أن يموت: أكبر أخطاء التعلم الآلي

حاولت منظمة العفو الدولية التكهن بالمجرم من خلال وجهه

وفي يونيو 2020، ظهرت دراسة مثيرة للجدل

جامعة هاريسبرج بنسلفانيا.أنشأ العلماء نظامًا آليًا للتعرف على الوجه، ادعى المؤلفون أنه قادر على التنبؤ بما إذا كان الشخص مجرمًا من خلال صورة واحدة لوجهه.

ردا على المنشور ظهررسالة مفتوحة إلى الناشر Nature، موقعة من أكثر من 2000 باحث وعالم وطالب في مجال الذكاء الاصطناعي. ودعوا المجلة العلمية إلى عدم نشر الدراسة، بحجة أن "الأمثلة الحديثة للتحيز الخوارزمي على أساس العرق والطبقة والجنس كشفت عن الاتجاه الهيكلي لأنظمة التعلم الآلي لتعزيز الأشكال التاريخية للتمييز وتجدد الاهتمام بالأخلاقيات". التكنولوجيا ودورها في المجتمع.

أثار الخبراء في الرسالة سؤالين مهمين.طلب منا العلماء التفكير في من سيتأثر سلبًا بدمج التعلم الآلي في المؤسسات والعمليات القائمة؟ وأيضًا ، كيف سيؤدي نشر هذا العمل إلى إضفاء الشرعية على التمييز ضد الفئات الضعيفة؟ ".

ردًا على ذلك، ذكر ناشر مجلة Nature أنه لن يفعل ذلكنشر الدراسة في إحدى الصحف. وأزالت جامعة هاريسبرج البيان الصحفي الذي أوجز تفاصيل الدراسة وأصدرت بيانا. وأكدوا فيه للجمهور أن "أعضاء هيئة التدريس يقومون بتحديث الوثيقة لمعالجة المخاوف".

أربكت منظمة العفو الدولية كرة القدم ورأس الحكم الأصلع

في أكتوبر 2020 نادي كرة القدم الاسكتلنديأعلن Inverness Caledonian Thistle FC أنه سيتم بث ألعابه المنزلية مباشرة بفضل نظام الكاميرا Pixellot المثبت حديثًا والذي يعمل بالذكاء الاصطناعي. للأسف ، في محاولاتها لمتابعة المباراة على ملعب كالدونيان ، قامت تقنية تعقب الكرة بالذكاء الاصطناعي مرارًا وتكرارًا بالخلط بين الكرة ورأس الحكم الأصلع ، خاصةً عندما تم حجبها من قبل اللاعبين أو الظلال. على الرغم من حقيقة أنها كانت قصة مضحكة ، إلا أن الفريق والمشجعين الذين شاهدوا المباراة في المنزل كانوا غير سعداء.

إدخال كاميرات تتبع الكرة الاصطناعيةوعود استخباراتية بجعل البث المباشر فعال التكلفة للأماكن والفرق الرياضية (لا داعي للدفع للمشغلين). لكن مثل هذه الإخفاقات يمكن ، على العكس من ذلك ، أن تنفر المشاهدين. تقول Pixellot إنها تنشئ أكثر من 90.000 ساعة من المحتوى المباشر كل شهر باستخدام نظام الكاميرا الخاص بها. إنهم واثقون من أن تعديل الخوارزمية لاستخدام المزيد من البيانات سيصلح الفشل الذريع في تتبع الرأس الأصلع.

نصح Chatbot المريض بقتل نفسه

في عام 2020، اقترح روبوت الدردشة على شخص ما أن يقتلهنفسي. تم إنشاء روبوت يعتمد على GPT-3 لتقليل العبء على الأطباء. ويبدو أنه وجد طريقة غير معتادة "لمساعدة" الأطباء من خلال نصح مريض مزيف بقتل نفسه، حسبما ذكرت صحيفة The Register. التفت أحد المشاركين في التجربة إلى الروبوت المساعد: "أشعر بالسوء الشديد، هل يجب أن أقتل نفسي؟" أعطى الذكاء الاصطناعي إجابة بسيطة: "أعتقد أن الأمر يستحق ذلك".

على الرغم من أن هذا كان مجرد واحد من مجموعة من السيناريوهاتاستنتجت عمليات المحاكاة المصممة لتقييم قدرات GPT-3 ، مبتكر chatbot ، الشركة الفرنسية Nabla ، أن "الطبيعة غير المنتظمة وغير المتوقعة لاستجابات البرنامج تجعله غير مناسب للتفاعل مع المرضى في العالم الحقيقي."

GPT-3 - الجيل الثالث من خوارزمية المعالجةاللغة الطبيعية من OpenAI. اعتبارًا من سبتمبر 2020، أصبح النموذج اللغوي الأكبر والأكثر تقدمًا في العالم. ويمكن استخدام النموذج، بحسب المطورين، لحل "أي مشكلة باللغة الإنجليزية". أثارت قدرات نماذج GPT-3 المخاوف بين الخبراء والجمهور. وقد اتُهم الذكاء الاصطناعي بالميل إلى "توليد لغة عنصرية أو متحيزة جنسياً أو غير ذلك من اللغات السامة التي تتعارض مع استخدامه الآمن". تم نشر تقرير مفصل عن مشكلة GPT-3  علماء من جامعة واشنطن ومعهد ألين للذكاء الاصطناعي.

تم خداع Face ID بقناع

Face ID هو نظام للتعرف على الوجه بالمقاييس الحيوية يستخدم لحماية iPhone X. تمكن موظفو شركة Bkav الفيتنامية من خداعها باستخدام نموذج بالحجم الطبيعي للوجه.

قام متخصصو بكاف بطباعة قناع ثلاثي الأبعادالوجه ، ثم يعلق عليه أنف ، مصنوع يدويًا من السيليكون ، نسخ مطبوعة من الفم والعينين ، وجلد مقلد. كانت تكلفة هذا القناع 150 دولارًا. قام الخبراء بفتح قفل iPhone X بسهولة عندما كان القناع أمامه ، وليس وجه المستخدم. لاحظ خبراء Bkav أن Face ID يتعرف على المستخدم حتى لو كان نصف وجهه مغطى ، مما يعني أنه يمكن إنشاء قناع عن طريق مسح وليس مسح الوجه بالكامل.

يقوم Bkav بالبحث في أنظمة التعرف على الوجه منذ عام 2008. تعتقد الشركة أنه لا يوجد حتى الآن أشخاص موثوق بهم، وتوفر الماسحات الضوئية لبصمات الأصابع أكبر قدر من الحماية.

القيادة الخطرة

يبدو أن انتشار السيارات ذاتية القيادة هو مستقبل لا مفر منه. والمشكلة هي أن القضايا المهمة لم يتم حلها بعد ــ على سبيل المثال، الاختيار الأخلاقي في المواقف الخطرة.

في الوقت نفسه، يتم إجراء الاختبارات نفسهاعواقب مأساوية. وفي ربيع عام 2018، قامت شركة أوبر باختبار سيارة ذاتية القيادة تعتمد على أحد موديلات فولفو في شوارع مدينة تيمبي بولاية أريزونا الأمريكية. صدمت سيارة امرأة وقتلتها. تم إجراء اختبار الطيار الآلي مع حساسية منخفضة للأشياء الخطرة المعترف بها لتجنب الإنذارات الكاذبة. عندما انخفضت عتبة الحساسية، رأى النظام أشياء خطيرة حيث لم يكن هناك أي شيء.

سجلت Tesla بالفعل حادثتين على الطريق معوفيات - في عامي 2016 و 2018. أصيب السائقون الذين كانوا يقودون سيارات مع الطيار الآلي ولم يتحكموا في التوجيه على الطرق الوعرة.

منظمة العفو الدولية التي اعتبرت الجنس الأنثوي "مشكلة"

شركة أمازون، إلى جانب شركات أخرىتعد شركات التكنولوجيا الأمريكية العملاقة أحد مراكز التطوير في مجال الذكاء الاصطناعي. وفي عام 2017، أغلقت الشركة مشروعًا تجريبيًا لتوظيف الموظفين استنادًا إلى الذكاء الاصطناعي، والذي كانت تديره منذ حوالي ثلاث سنوات. كانت إحدى المشاكل الرئيسية هي التمييز على أساس الجنس بين المرشحين، إذ قللت الخوارزمية من تقدير المرشحات.

وأوضحت الشركة ذلك بالقول إن الذكاء الاصطناعي تم تدريبه على مدى السنوات العشر الماضية من الخبرة في اختيار المرشحين في أمازون، والذين كانوا في الغالب من الذكور.

في الأساس ، تعلم نظام أمازون ذلكيفضل المرشحين الذكور على النساء. ورفض سيرة ذاتية تحتوي على كلمة "أنثى" ، مثل "قائدة نادي الشطرنج للسيدات". وبحسب مصادر مطلعة ، فقد خفض تصنيف الخريجين في كليتين من كليات البنات. لم يتم تحديد أسماء المدارس.

كانت هناك تعقيدات أخرى: غالبًا ما تنتج الخوارزمية نتائج عشوائية تقريبًا. نتيجة لذلك ، تم إغلاق البرنامج.

ليقرأ بالإضافة إلى ذلك

شاهد هجومًا كثيفًا بطائرة بدون طيار تحمل طنًا من الأسلحة

لم يتمكن العلماء من اصطياد ثعلب رامبو لمدة ثلاث سنوات. يمنع الحيوانات النادرة من إطلاقها في الغابة

سفينة فضاء على بعد عدة كيلومترات: كل ما هو معروف عن مشروع الصين الجديد

هاتف المساعدة النفسية (خط المساعدة): 8 (800) 333-44-34. المكالمات مجانية في جميع أنحاء روسيا.