เครือข่ายสังคม Twitter ได้ประกาศผลการแข่งขันแบบเปิดเพื่อค้นหาอคติอัลกอริทึมใน
การแข่งขันยืนยันข้อสรุปก่อนหน้านี้รายงานอันดับ 1 แสดงให้เห็นว่าอัลกอริธึมการครอบตัดของ Twitter สนับสนุนใบหน้าที่ "ผอม อ่อนเยาว์ มีโทนสีผิวสว่างหรืออุ่น และผิวเรียบเนียน และใบหน้าที่มีลักษณะเป็นผู้หญิงแบบเหมารวม" ผลงานอันดับที่สองและสามแสดงให้เห็นว่าระบบมีอคติต่อผู้ที่มีผมสีขาวหรือสีเทา ซึ่งเป็นสัญญาณของการเลือกปฏิบัติด้านอายุ และนิยมใช้ภาษาอังกฤษมากกว่าอักษรอารบิกในภาพ
อันดับหนึ่งในการแข่งขันและรางวัลใหญ่ 3500บ็อกดาน คูลินนิช ผู้สำเร็จการศึกษาจากสถาบันเคียฟ-โมฮีลา ได้รับเงินดอลลาร์สหรัฐ และเป็นนักศึกษาระดับบัณฑิตศึกษาที่ EPFL ซึ่งเป็นมหาวิทยาลัยวิจัยในสวิตเซอร์แลนด์ Kulinich ใช้โปรแกรม AI ชื่อ StyleGAN2 เพื่อสร้างใบหน้าที่สมจริงจำนวนมาก ซึ่งแตกต่างกันไปตามสีผิว ลักษณะความเป็นผู้หญิงและผู้ชาย และความเรียว จากนั้นเขาก็ป้อนรูปแบบเหล่านี้ลงในอัลกอริธึมการครอบตัดรูปภาพของ Twitter เพื่อพิจารณาว่ารูปแบบใดดีกว่า
ดังที่ Kulinich ได้กล่าวไว้ในบันทึกที่แนบมานี้อคติแบบอัลกอริทึมเหล่านี้เสริมสร้างอคติในสังคม โดยตัด “ผู้ที่ไม่เหมาะกับการตั้งค่าของอัลกอริทึมที่เกี่ยวข้องกับน้ำหนักตัว อายุ สีผิว” ออกอย่างแท้จริง
แนวทางที่เปิดกว้างของ Twitter ขัดแย้งกับปฏิกิริยาบริษัทเทคโนโลยีอื่นๆ ประสบปัญหาคล้ายคลึงกัน ตัวอย่างเช่น เมื่อนักวิจัยที่นำโดย Joy Buolamwini จาก MIT ค้นพบอคติทางเชื้อชาติและเพศในอัลกอริธึมการจดจำใบหน้าของ Amazon บริษัทได้เปิดตัวแคมเปญการใส่ร้ายป้ายสีขนาดใหญ่ต่อผู้เข้าร่วม โดยเรียกงานของพวกเขาว่า “ทำให้เข้าใจผิด” และ “เท็จ” หลังจากการถกเถียงกันเป็นเวลาหลายเดือนเกี่ยวกับการค้นพบนี้ ในที่สุด Amazon ก็ยอมแพ้ โดยสั่งห้ามการใช้อัลกอริธึมเหล่านี้ชั่วคราว
ที่มา: cnet
ภาพประกอบ: เธเวิร์จ, บ็อกดาน คูลินิช
</ p>