แม้ว่าแหล่งที่มาของอคติในระบบ AI จะแตกต่างกันไป แต่สาเหตุหลักประการหนึ่งคือการเหมารวม
เพื่อช่วยแก้ไขปัญหานี้ในตัวเธอในขั้นต้นนักวิจัยจาก Princeton Visual AI Lab ได้พัฒนาเครื่องมือโอเพนซอร์สที่ตรวจจับความเสียหายที่อาจเกิดขึ้นในชุดข้อมูลภาพโดยอัตโนมัติ เครื่องมือนี้ช่วยให้ผู้สร้างชุดข้อมูลและผู้ใช้สามารถแก้ไขปัญหาการแสดงภาพที่ไม่เป็นตัวแทนหรือตายตัวก่อนที่จะมีการใช้คอลเล็กชันภาพเพื่อฝึกโมเดลการมองเห็นด้วยคอมพิวเตอร์ ในงานที่เกี่ยวข้องสมาชิกของ Visual AI Lab ได้เผยแพร่การเปรียบเทียบเทคนิคการป้องกันอคติที่มีอยู่ในแบบจำลองการมองเห็นด้วยคอมพิวเตอร์และเสนอแนวทางใหม่ที่มีประสิทธิภาพมากขึ้นในการลดอคติ
เครื่องมือชิ้นแรกที่เรียกว่า REVISE ใช้วิธีการทางสถิติเพื่อตรวจสอบชุดข้อมูลสำหรับอคติที่อาจเกิดขึ้นหรือปัญหาการเป็นตัวแทนน้อยในสามมิติ: วัตถุ เพศ และภูมิศาสตร์
REVISE ประเมินเนื้อหาของชุดข้อมูลโดยใช้คำอธิบายประกอบและการวัดภาพที่มีอยู่เช่นจำนวนวัตถุการมีอยู่ของวัตถุและบุคคลรวมกันและประเทศต้นกำเนิดของภาพ เครื่องมือจะระบุรูปแบบที่แตกต่างจากการแจกแจงค่ามัธยฐาน
ในชุดข้อมูลเดียว REVISE ระบุศักยภาพอคติทางเพศในภาพที่แสดงภาพคน (สี่เหลี่ยมสีแดง) และอวัยวะของเครื่องดนตรี (สี่เหลี่ยมสีน้ำเงิน) การวิเคราะห์การกระจายของระยะทางสามมิติโดยประมาณระหว่างบุคคลและอวัยวะแสดงให้เห็นว่าผู้ชายมักจะถูกมองว่าเล่นเครื่องดนตรีในขณะที่ผู้หญิงมักจะอยู่ในพื้นที่เดียวกับเครื่องดนตรี เครดิต: Princeton Visual AI Lab
ตัวอย่างเช่นในชุดทดสอบชุดหนึ่งข้อมูล REVISE แสดงให้เห็นว่าภาพที่เกี่ยวข้องกับผู้คนและดอกไม้แตกต่างกันระหว่างชายและหญิง กล่าวคือ ผู้ชายมีแนวโน้มที่จะปรากฏพร้อมกับดอกไม้ในพิธีหรือการประชุม และผู้หญิงมีแนวโน้มที่จะปรากฏในฉากหรือภาพวาดมากกว่า
เมื่อเครื่องมือตรวจพบลักษณะนี้แล้ว“คำถามเกิดขึ้นว่านี่เป็นข้อเท็จจริงที่ไม่เป็นอันตรายโดยสิ้นเชิง หรือมีบางสิ่งที่สำคัญกว่าเกิดขึ้นหรือไม่ และนี่เป็นเรื่องยากมากที่จะทำให้เป็นอัตโนมัติ” Olga Rusakovskaya ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และผู้ตรวจสอบหลักของ Visual AI Lab อธิบาย
“ การฝึกรวบรวมชุดข้อมูลในคอมพิวเตอร์จนกระทั่งเมื่อไม่นานมานี้ยังไม่มีการศึกษาอย่างละเอียด” แองเจลิน่าหวังผู้เขียนร่วมนักศึกษาปริญญาโทสาขาวิทยาการคอมพิวเตอร์สรุป เธออธิบายว่ารูปภาพส่วนใหญ่“ มาจากอินเทอร์เน็ตและผู้คนมักไม่เข้าใจว่ามีการใช้รูปภาพของพวกเขา [ในชุดข้อมูล] เราจำเป็นต้องรวบรวมภาพจากกลุ่มคนที่หลากหลายมากขึ้นและทำอย่างเคารพ "
อ่านเพิ่มเติม:
มีความเป็นไปได้ที่จะสร้างเครื่องปฏิกรณ์นิวเคลียร์เทอร์โมนิวเคลียร์บนโลก ผลที่ตามมาจะเป็นอย่างไร?
ธารน้ำแข็ง Doomsday กลายเป็นอันตรายมากกว่าที่นักวิทยาศาสตร์คิด เราบอกสิ่งสำคัญ
ในวันที่ 3 ของการเจ็บป่วยผู้ป่วย COVID-19 ส่วนใหญ่สูญเสียความรู้สึกในการดมและมักจะมีอาการน้ำมูกไหล