كيف جميعا لم تبدأ؟
ويناقش الاتحاد الأوروبي إمكانية حظر استخدام المواد الاصطناعية
كجزء من مشروع القرار"حول النهج الأوروبي للذكاء الاصطناعي"، تقترح المفوضية الأوروبية حظر تقنيات الذكاء الاصطناعي التي تستخدم في "المراقبة الجماعية المطبقة بطريقة عامة على جميع الأفراد دون أي تمييز". ويصف نص مشروع القانون بالتفصيل أساليب المراقبة مثل "مراقبة وتتبع الأفراد في البيئة الرقمية أو المادية، بالإضافة إلى التجميع التلقائي وتحليل البيانات الشخصية من مصادر مختلفة"، حسبما ذكرت وكالة أنباء ريجنوم.
المفوضية الأوروبية تسعى لإعلان ذلكمن قانون أنظمة الذكاء الاصطناعي (AI) المستخدمة في "المراقبة الجماعية للناس" كجزء من الحظر الجديد الذي سيتم تقديمه الأسبوع المقبل.
بالإضافة إلى ذلك ، تنص المفوضية الأوروبية على الحظرلاستخدام تطبيقات الذكاء الاصطناعي التي تنتهك قيم الاتحاد الأوروبي أو تنتهك حقوق الإنسان. وتشمل هذه الأنظمة التي تتلاعب بالسلوك البشري وتستهدف الفئات السكانية الضعيفة.
وفقًا للمشروع ، سيتعين على أعضاء الاتحاد الأوروبي ، على سبيل المثال ، القيام بذلكإنشاء لجان تقييم لاختبار والتحقق من صحة أنظمة الذكاء الاصطناعي عالية المخاطر. والشركات التي تطور أو تبيع الذكاء الاصطناعي الخاضعة لقيود ، بما في ذلك تلك الموجودة في بلدان أخرى في العالم ، يمكن تغريمها حتى 4٪ من دخلها العالمي.
ما هو الذكاء الاصطناعي "عالي المخاطر"؟
وفقا للقواعد المخطط لها ، أولئك الذينتعتزم تطبيق الذكاء الاصطناعي ، سيتعين عليها تحديد ما إذا كانت حالة استخدام معينة "عالية الخطورة" وبالتالي ما إذا كانت بحاجة إلى إجراء تقييم إلزامي للامتثال المسبق أم لا.
أمثلة على الذكاء الاصطناعي عالي الخطورة:
- الأنظمة التي تعطي الأولوية لإرسال خدمات الطوارئ ،
- الأنظمة التي تحدد وصول أو تعيين الأشخاص في المؤسسات التعليمية ،
- خوارزميات التوظيف ،
- تلك التي تقيم الجدارة الائتمانية ،
- لإجراء تقييمات المخاطر الفردية ،
- خوارزميات للتنبؤ بالجرائم.
ما هو جوهر مشروع قانون الرقابة على الذكاء الاصطناعي؟
نشرح ما تقدمه الفاتورة الجديدة.
جمع البيانات عن المواطنين الذين يستخدمون الأنظمةالمراقبة ومراقبة الشبكات الاجتماعية والمعلومات المصرفية وغيرها من المصادر - "يجب حظر المراقبة العشوائية للأفراد إذا تم تطبيقها بطريقة عامة على جميع الأفراد دون تمييز". بعبارة أخرى، قد يُسمح بالمراقبة "الانتقائية" إذا كان لدى الفرد شيء يثير اهتمام السلطات المختصة، ولكن المراقبة الشاملة "للاحتياط" ربما تكون محظورة في أوروبا.
وينص مشروع القانون أيضا على فرض حظر علىإدخال نظام التصنيف الاجتماعي أو نظام الرصيد الاجتماعي، عندما يتم تجميع مجموعة من البيانات الضخمة حول الاتصالات والسلوك والمشتريات وغيرها من المعلومات عن المواطنين، ويتم إنشاء صورة اجتماعية للمواطن بناءً على مجمل البيانات. يمكن أن يساعد الذكاء الاصطناعي أو الشبكات العصبية أيضًا في معرفة ذلك. وهم يحبون هذا الأمر في القطاع المصرفي، وأوروبا ليست استثناءً في هذا الصدد. لكن الصين ذهبت إلى أبعد من ذلك في إنشاء نظام ائتمان اجتماعي، حيث يُحرم الأشخاص ذوو التصنيفات المنخفضة من تذاكر النقل بين المدن، والإقامة في مناطق معينة، ويتم فرض عدد من القيود الأخرى. وتشير الدراسة إلى أن أنظمة الذكاء الاصطناعي هذه لديها "فرصة كبيرة للتأثير على معيشة شخص ما".
بخصوص التصنيف الاجتماعي في الفاتورةقال: "يجب حظر أنظمة الذكاء الاصطناعي المستخدمة لتقييم المؤشرات الاجتماعية ذات الأغراض العامة". ومن المتوقع أن يتم التصويت على هذا القانون في 21 أبريل. حتى هذه النقطة ، رفض ممثلو المفوضية الأوروبية التعليق على الوثيقة غير المعتمدة.
كما يوفر المشروع ما يلي:
- الإخطارات المتعلقة بالتفاعل البشري مع الذكاء الاصطناعي، ما لم يكن "واضحًا من ظروف وسياق الاستخدام"،
- تقييم الأنظمة عالية المخاطر قبل حدوثهاالتشغيل، بما في ذلك التأكد من أن هذه الأنظمة مفهومة للمشرفين البشريين وأنهم مدربون على مجموعات البيانات "عالية الجودة" التي تم اختبارها للتأكد من عدم التحيز،
- إنشاء "المجلس الأوروبي للذكاء الاصطناعي" الذي يتألف من ممثلين عن جميع دول الاتحاد الأوروبي.
ما رأي الخبراء في التحكم في الذكاء الاصطناعي؟
لعل أهم قسم في الوثيقةهي مقالة تحظر استخدامات معينة للذكاء الاصطناعي ، بما في ذلك المراقبة الجماعية والتصنيفات الائتمانية الاجتماعية. ومع ذلك ، تشير ردود الفعل على المشروع من مجموعات الحقوق الرقمية وخبراء السياسة إلى أن هذا القسم بحاجة إلى التحسين.
"أوصاف الأنظمة الاصطناعية المحظورة"الاستخبارات غامضة وتحتوي على لغة غير واضحة يمكن أن تخلق ثغرات خطيرة"، يوضح دانييل لوفر، محلل السياسة الأوروبية في Access Now، في مقابلة مع The Verge. وهذا القسم، على حد تعبيره، "بعيد عن المثالية".
كيف بالضبط يقرر التشريع الوطنيهل قرار الذكاء الاصطناعي سبب ضررا لأحد أم لا؟ ومن ناحية أخرى، فإن الحظر المفروض على استخدام الذكاء الاصطناعي للمراقبة الجماعية "متساهل للغاية". ويضيف أن الحظر المفروض على أنظمة الائتمان الاجتماعي على أساس "الموثوقية" تم تعريفه أيضًا بشكل ضيق للغاية. لا تحتاج أنظمة الائتمان الاجتماعي إلى تقييم ما إذا كان شخص ما جديرًا بالثقة لاتخاذ قرار بشأن قضايا مثل أهليته للحصول على المزايا.
على تويتر عمر تيني، نائب الرئيسوعلقت منظمة IAPP (الرابطة الدولية لمحترفي الخصوصية) غير الربحية، بأن الحكم "يمثل نهجًا نموذجيًا لبروكسل تجاه التقنيات والابتكارات الجديدة. عندما تكون في شك، اضبط." وفقًا لتيني، إذا تم اعتماد المقترحات، فإنها ستخلق "نظامًا بيئيًا تنظيميًا واسعًا" لن يجذب منشئي أنظمة الذكاء الاصطناعي فحسب، بل أيضًا المستوردين والموزعين والمستخدمين، وسينشئ عددًا من المجالس التنظيمية، الوطنية والدولية؛ في جميع أنحاء الاتحاد الأوروبي.
ومع ذلك، فإن هذا النظام البيئي لن يكون الأوليقول مايكل فيل، المحاضر في الحقوق واللوائح الرقمية في جامعة كوليدج لندن: "لقد حان الوقت للحد من شركات التكنولوجيا الكبرى". "ينصب تركيزه في المقام الأول على الشركات الأقل شهرة ومقدمي أدوات صنع القرار الذين غالبًا ما يستعصي عملهم على تدقيق الجهات التنظيمية أو عملائهم."
ومن غير المعروف ما هي التغييرات التي قد تم إجراؤهافي مسودة الاقتراح هذه بينما يستعد صناع السياسات في الاتحاد الأوروبي لإعلان رسمي في 21 أبريل. ومع ذلك، بمجرد اقتراح اللائحة، فإنها ستخضع للتغييرات بعد ردود الفعل من أعضاء البرلمان الأوروبي وسيتعين تنفيذها بشكل منفصل في كل دولة قومية.
لماذا هناك حاجة لقانون جديد؟
لقد تمت بالفعل مناقشة خطة لتنظيم الذكاء الاصطناعي لبعض الوقت.وقت. في فبراير 2020، نشرت المفوضية الأوروبية ورقة بيضاء تحدد خططًا لتنظيم تطبيقات الذكاء الاصطناعي "عالية المخاطر". على الرغم من أنه ليس من الواضح تمامًا من المسودة الجديدة كيف سيتم تحديد "المخاطر العالية" بالضبط.
وفقا لمشروع المشروع، فإن الهدف الرئيسيهدف المفوضية هنا هو زيادة ثقة الجمهور في الذكاء الاصطناعي من خلال الضوابط والتوازنات القائمة على قيم الاتحاد الأوروبي. والهدف من ذلك هو تحفيز اعتماد ما يسمى بالذكاء الاصطناعي "الجدير بالثقة" و"المتمحور حول الإنسان". وهذا لا ينطبق فقط على التطبيقات "عالية الخطورة"، بل على كل من يتفاعل مع شخص ما.
ماذا سيحدث إذا تم تمرير القانون؟
وإذا تم قبول مشروع الاقتراح، فسيتم قبولهسيؤدي ذلك إلى اتخاذ الاتحاد الأوروبي موقفًا قويًا بشأن بعض تطبيقات الذكاء الاصطناعي. ستخضع بعض الاستخدامات لضوابط مشابهة لتنظيم الخصوصية الرقمية في الاتحاد الأوروبي بموجب تشريعات اللائحة العامة لحماية البيانات.
تتضمن متطلبات الاتحاد الأوروبي ضمانالسلامة وضمان الدقة المتسقة لنظام الذكاء الاصطناعي - مع شرط الإبلاغ عن "أي حوادث خطيرة أو أي فشل في تشغيل نظام الذكاء الاصطناعي يشكل خرقًا للالتزامات تجاه السلطة الإشرافية في موعد لا يتجاوز 15 يومًا" ؛ بعد أيام من علمه بذلك.
يشار إلى أن اللجنة تجنبتمقترحات لحظر استخدام التعرف على الوجه في الأماكن العامة. وفقًا لمسودة مسربة أوائل العام الماضي ، كانت تفكر في الفكرة.
من غير المعروف ما هي التغييرات التي ربما تم إجراؤها علىهذه مسودة اقتراح بينما يستعد سياسيو الاتحاد الأوروبي لإعلان رسمي في 21 أبريل. ومع ذلك ، بمجرد اقتراح اللائحة ، ستخضع للتغيير بعد تلقي التعليقات من أعضاء البرلمان الأوروبي ويجب تنفيذها بشكل منفصل في كل دولة قومية.
هذه ليست المرة الأولى التي تتحدث فيها أوروبا عن التنظيمصناعة التكنولوجيا. وبالتالي ، تريد سلطات الاتحاد الأوروبي إجبار Google و Facebook على دفع الناشرين مقابل الأخبار ، وفي بداية العام ، اتصل السياسيون الأوروبيون برؤساء عمالقة التكنولوجيا لمناقشة القوانين التي تحد من احتكارهم. بكل المقاييس ، ستوفر القوانين التي تتم صياغتها عقوبة 10٪ على الإيرادات لعمالقة التكنولوجيا للحد من احتكارهم.
قراءة المزيد
تم إنشاء أول خريطة دقيقة للعالم. ما هو الخطأ مع أي شخص آخر؟
أخبرت ناسا كيف سيتم تسليم عينات من المريخ إلى الأرض
تم اختبار محرك لطائرة مدارية في روسيا
اللائحة العامة لحماية البيانات، عاماللائحة العامة لحماية البيانات (GDPR) هي لائحة صادرة عن الاتحاد الأوروبي والتي من خلالها يقوم البرلمان الأوروبي ومجلس الاتحاد الأوروبي والمفوضية الأوروبية بتعزيز وتوحيد حماية البيانات الشخصية لجميع الأفراد في الاتحاد الأوروبي (EU). وتهدف اللائحة أيضًا إلى تصدير البيانات من الاتحاد الأوروبي.
يهدف القانون العام لحماية البيانات (GDPR) في المقام الأول إلى ضمان ذلكلمنح المواطنين السيطرة على بياناتهم الشخصية، وتبسيط الإطار التنظيمي للعلاقات الاقتصادية الدولية من خلال توحيد التنظيم داخل الاتحاد الأوروبي.
نظام الائتمان الاجتماعي ("الاجتماعيالتصنيف "،" نظام الثقة الاجتماعية ") - نظام لتقييم المواطنين الأفراد أو المنظمات من خلال معايير مختلفة ، يتم الحصول على قيمها باستخدام أدوات المراقبة الجماعية واستخدام تقنية تحليل البيانات الضخمة. تم تنفيذه لأول مرة من قبل الحكومة الصينية في 2010.