على الرغم من تنوع مصادر التحيز في أنظمة الذكاء الاصطناعي، إلا أن أحد الأسباب الرئيسية هو القوالب النمطية.
للمساعدة في حل هذه المشكلة فيهافي الأصل ، طور الباحثون في مختبر برينستون المرئي للذكاء الاصطناعي أداة مفتوحة المصدر تكتشف تلقائيًا الفساد المحتمل في مجموعات البيانات المرئية. تسمح الأداة لمنشئي مجموعات البيانات والمستخدمين بتصحيح مشاكل التمثيل الناقص أو التصوير النمطي قبل استخدام مجموعات الصور لتدريب نماذج الرؤية الحاسوبية. في ورقة ذات صلة ، نشر أعضاء مختبر الذكاء الاصطناعي المرئي مقارنة بين تقنيات منع التحيز الموجودة في نماذج الرؤية الحاسوبية نفسها واقترحوا نهجًا جديدًا أكثر فعالية للحد من التحيز.
الأداة الأولى، تسمى REVISE، تستخدمالأساليب الإحصائية لفحص مجموعة البيانات بحثًا عن التحيزات المحتملة أو مشكلات التمثيل الناقص على طول ثلاثة أبعاد: الكائن والجنس والجغرافيا.
يقوم REVISE بتقييم محتويات مجموعة البيانات ،استخدام التعليقات التوضيحية والقياسات الموجودة بالصور مثل عدد العناصر والتواجد المشترك للأشياء والأشخاص وبلد منشأ الصور. من بين هذه القياسات ، تحدد الأداة الأنماط التي تختلف عن التوزيع المتوسط.
في مجموعة بيانات واحدة ، حددت REVISE إمكاناتالتحيز بين الجنسين في الصور التي تصور الأشخاص (المستطيلات الحمراء) وعضو آلة موسيقية (المستطيلات الزرقاء). أظهر تحليل لتوزيع المسافات ثلاثية الأبعاد المقدرة بين الشخص والعضو أن الرجال عادة ما يُصوَّرون على أنهم يعزفون على الآلة الموسيقية ، بينما كانت النساء غالبًا في نفس مساحة الآلة. الائتمان: مختبر برينستون البصري للذكاء الاصطناعي.
على سبيل المثال، في إحدى المجموعات التي تم اختبارهاأظهرت بيانات REVISE أن الصور التي تتضمن أشخاصًا وزهورًا تختلف بين الرجال والنساء: كان الرجال أكثر عرضة للظهور مع الزهور في الاحتفالات أو الاجتماعات، وكانت النساء أكثر عرضة للظهور في الأماكن المسرحية أو اللوحات.
بمجرد اكتشاف الأداة لهذا النوع منتشرح أولغا روساكوفسكايا، الأستاذة المساعدة في علوم الكمبيوتر والباحثة الرئيسية في مختبر الذكاء الاصطناعي المرئي، "السؤال الذي يطرح نفسه هو ما إذا كانت هذه حقيقة غير ضارة تمامًا أو ما إذا كان هناك شيء أكثر أهمية يحدث، ومن الصعب جدًا تشغيله آليًا". &نبسب;
"ممارسة جمع مجموعات البيانات في الكمبيوتراستنتجت المؤلفة المشاركة أنجلينا وانج ، طالبة الدراسات العليا في علوم الكمبيوتر ، "لم تتم دراسة العلوم بشكل شامل حتى وقت قريب." وأوضحت أن الصور تأتي في الغالب "من الإنترنت ، ولا يفهم الناس دائمًا أن صورهم تُستخدم [في مجموعات البيانات]. نحن بحاجة إلى جمع الصور من مجموعات أكثر تنوعًا من الناس والقيام بذلك باحترام ".
اقرأ أيضًا:
من الممكن إنشاء مفاعل نووي حراري على الأرض. ما هي العواقب؟
تبين أن نهر Doomsday الجليدي أكثر خطورة مما اعتقد العلماء. نقول الشيء الرئيسي
في اليوم الثالث من المرض ، يفقد معظم مرضى COVID-19 حاسة الشم لديهم وغالبًا ما يعانون من سيلان الأنف