كيف جميعا لم تبدأ؟
صدر تقرير جديد للأمم المتحدة في سبتمبر 2021. درس الخبراء كيفية الدول والشركات
أمس رئيس حقوق الإنسان في الأمم المتحدة ميشيلودعت باتشيليت إلى وقف استخدام تقنيات الذكاء الاصطناعي التي تشكل تهديدًا خطيرًا لحقوق الإنسان. بما في ذلك أنظمة لمسح الأشخاص وتتبع الأشخاص في الأماكن العامة. وأشارت إلى أنه يتعين على الدول أن تحظر على الفور تطبيقات الذكاء الاصطناعي التي لا تمتثل للقانون الدولي لحقوق الإنسان.
أين استخدام الذكاء الاصطناعي غير مقبول؟
سيتم حظر التطبيقاتوتشمل هذه الأنظمة "التصنيف الاجتماعي" الحكومية التي تقيم الأشخاص بناءً على سلوكهم ، وبعض الأدوات المستندة إلى الذكاء الاصطناعي التي تقسم الناس إلى مجموعات ، مثل العرق أو الجنس.
التقنيات القائمة على الاصطناعيوقالت باشيليت في بيان إن الاستخبارات "يمكن أن تكون قوة من أجل الخير" ويمكن أن تؤدي أيضًا إلى "عواقب سلبية، وحتى كارثية"، إذا تم استخدامها دون النظر في كيفية تأثيرها على حقوق الإنسان.
"الأمر لا يتعلق بنقص الاصطناعيوأوضحت بيجي هيكس، مديرة التفاعل المواضيعي في مركز حقوق الإنسان التابع للأمم المتحدة، للصحفيين. وتحدثت إلى وسائل الإعلام أثناء تقديم التقرير في جنيف. "النقطة المهمة هي أنه إذا كان سيتم استخدام الذكاء الاصطناعي في هذه المجالات الوظيفية المهمة للغاية المتعلقة بحقوق الإنسان، فيجب أن يتم ذلك بشكل صحيح. ونحن ببساطة لم نقم بإنشاء الهيكل الذي يضمن ذلك”.
ولم تطالب باشيليت بفرض حظر كاملتكنولوجيا التعرف على الوجه، لكنه أشار إلى أنه يجب على الحكومات التوقف عن فحص سلوك الناس في الوقت الحقيقي. على سبيل المثال، لتقييم أداء الموظفين. تحتاج إلى التأكد من دقة التكنولوجيا وأن الذكاء الاصطناعي غير متحيز ويلبي معايير الخصوصية وحماية البيانات.
كما يثير التقرير مخاوف بشأنالأدوات التي تحاول تحديد الحالة العاطفية والعقلية للأشخاص من خلال تحليل تعابير الوجه أو حركات الجسم. يؤكد الخبراء أن مثل هذه التقنيات عرضة للتحيز وسوء التفسير وعدم وجود أساس علمي.
"استخدام الأنظمة من قبل سلطات الدولةوقال التقرير إن التعرف على المشاعر ، على سبيل المثال لتسليط الضوء على أفراد لاحتجاز الشرطة أو اعتقالهم ، أو لتقييم صحة الأقوال أثناء الاستجواب ، يهدد بتقويض حقوق الإنسان مثل الخصوصية والحرية والعدالة في القضاء.
ما هي مشكلة استخدام الذكاء الاصطناعي بشكل خاص؟
على الرغم من وجود أسماء دول محددة في التقريرلم يتم ذكرها، ومن الجدير بالذكر الصين. دعونا نتذكر أنه في شهر مايو أطلقت السلطات برنامجًا لاختبار كاميرات التعرف على المشاعر على الأويغور في منطقة شينجيانغ الغربية. والاعتراف بالأويغور أنفسهم. ولنتذكر أنه في عام 2018، نشرت منظمة هيومن رايتس ووتش تقريرًا عن اضطهاد السكان المسلمين في منطقة شينجيانغ الصينية. ووفقا للمنظمة، في السنوات الأخيرة، تم احتجاز الأويغور هناك بشكل جماعي ودون سبب في كثير من الأحيان، ووضعهم في السجون والمعسكرات التعليمية؛ ويخضع ملايين الأشخاص للمراقبة المستمرة بالفيديو، ويعتمد وضعهم الاجتماعي ومصيرهم على النقاط المتراكمة في نظام "الرصيد الاجتماعي".
ومع ذلك، قال المؤلفون الرئيسيون للتقرير إن تسمية دول معينة ليس ضمن صلاحياتهم وقد يؤدي إلى نتائج عكسية.
"في السياق الصيني، كيفوفي سياقات أخرى، نشعر بالقلق إزاء الشفافية والتطبيقات التمييزية التي تستهدف مجتمعات معينة.
واستشهدت بالعديد من قضايا المحاكم في الولايات المتحدة وأستراليا حيث أسيء استخدام الذكاء الاصطناعي.
واحدة من أعلى السوابق في الولايات المتحدة -مع أمازون. تعتبر هذه المؤسسة من مراكز التطوير في مجال الذكاء الاصطناعي. في عام 2017 ، أغلقت الشركة مشروع توظيف رائد قائم على الذكاء الاصطناعي كانت تديره منذ ما يقرب من ثلاث سنوات. كانت إحدى المشكلات الرئيسية هي التمييز بين الجنسين بين المرشحين - فقد استهانت الخوارزمية بتقييمات المرشحات.
وفي الوقت نفسه ، في أستراليا ، أنشأت المحكمة حجر الأساسسابقة. يمكن الآن الاعتراف بأنظمة الذكاء الاصطناعي قانونًا كمخترعين في طلبات براءات الاختراع. ومع ذلك ، لم يتفق الجميع مع هذا القرار.
ما هو الحد الأدنى؟
تعكس توصيات التقرير آراء الكثيرينالقادة السياسيين في الديمقراطيات الغربية. من المهم ليس فقط تسخير الإمكانات الاقتصادية والاجتماعية للذكاء الاصطناعي ، ولكن أيضًا معالجة المخاوف المتزايدة بشأن موثوقية الأدوات التي تتعقب الأشخاص وتكوينهم.
وزيرة التجارة الأمريكية جينا ريموندو خلالعزز مؤتمر افتراضي في يونيو من مخاوف مسؤولي الأمم المتحدة. قالت: "إنه لأمر مخيف أن نفكر في كيفية استخدامه لتعزيز الميول التمييزية. نحن بحاجة للتأكد من أننا لا نسمح بذلك".
وبالتالي ، فإن المنظمين الأوروبيين هم بالفعلاتخذت خطوات للحد من أكثر تطبيقات الذكاء الاصطناعي خطورة. ستحظر القواعد المقترحة ، التي وضعها مسؤولو الاتحاد الأوروبي هذا العام ، استخدامات معينة للذكاء الاصطناعي ، مثل مسح الوجه في الوقت الفعلي ، والتحكم بإحكام في الاستخدامات الأخرى التي قد تهدد سلامة الإنسان أو حقوق الإنسان.
ليقرأ بالإضافة إلى ذلك
يتحول قارب فريد من نوعه إلى غواصة في دقيقتين ويكون غير مرئي للعدو
قام الفيزيائيون بتبريد الذرات إلى أدنى درجة حرارة في العالم
تم نشر النموذج الأكثر تفصيلاً للكون على الإنترنت. يمكن لأي شخص دراستها