أعلنت شبكة التواصل الاجتماعي تويتر عن نتائج مسابقة مفتوحة لاكتشاف التحيز الخوارزمي في مواقعها
وأكدت المنافسة الاستنتاجات السابقة.ووجدت الورقة البحثية التي حصلت على المركز الأول أن خوارزمية الاقتصاص في تويتر تفضل الوجوه "النحيفة والشبابية ذات ألوان البشرة الفاتحة أو الدافئة وملمس البشرة الناعم، وأولئك الذين يتمتعون بملامح أنثوية نمطية". وأظهرت المشاركات في المركزين الثاني والثالث أن النظام كان متحيزًا ضد الأشخاص ذوي الشعر الأبيض أو الرمادي، وهو علامة على التمييز على أساس السن، وفضل اللغة الإنجليزية على الكتابة العربية في الصور.
المركز الأول في المسابقة والجائزة الكبرى 3500وقد تلقى الدولارات الأمريكية بوجدان كولينيتش، خريج أكاديمية كييف-موهيلا وطالب دراسات عليا في EPFL، وهي جامعة بحثية في سويسرا. استخدم كولينيتش برنامجًا للذكاء الاصطناعي يسمى StyleGAN2 لإنشاء عدد كبير من الوجوه الواقعية، والتي تنوعت حسب لون البشرة والملامح الأنثوية والمذكرية والنحافة. ثم قام بعد ذلك بإدخال هذه الاختيارات في خوارزمية اقتصاص الصور على تويتر لتحديد الخيار الأفضل.
وكما يشير كولينيتش في الملاحظة المصاحبة،تعزز هذه التحيزات الخوارزمية التحيزات في المجتمع، وتستثني حرفيًا "أولئك الذين لا يتناسبون مع تفضيلات الخوارزمية فيما يتعلق بوزن الجسم والعمر ولون البشرة".
يتناقض نهج تويتر المنفتح مع رد الفعلشركات التكنولوجيا الأخرى تواجه مشاكل مماثلة. على سبيل المثال، عندما اكتشف الباحثون بقيادة جوي بولامويني من معهد ماساتشوستس للتكنولوجيا التحيز العنصري والجنسي في خوارزميات التعرف على الوجه في أمازون، أطلقت الشركة حملة تشهير واسعة النطاق ضد المشاركين، ووصفت عملهم بأنه "مضلل" و "كاذبة". وبعد أشهر من الجدل حول النتائج، استسلمت أمازون في النهاية، ووضعت حظرًا مؤقتًا على استخدام هذه الخوارزميات.
المصدر: سي نت
الرسوم التوضيحية: theverge، بوجدان كولينيتش
</ p>