למרות שמקורות ההטיה במערכות AI מגוונים, אחד הגורמים העיקריים הוא סטריאוטיפים.
כדי לעזור לתקן את הבעיה הזו בהבמקור, חוקרים במעבדת ה- Visual AI של פרינסטון פיתחו כלי קוד פתוח שמגלה אוטומטית שחיתויות אפשריות במערכי נתונים חזותיים. הכלי מאפשר ליוצרים ולמשתמשים במערכי נתונים לתקן בעיות דימוי של תת ייצוג או סטריאוטיפ לפני שאוספי תמונות משמשים להכשרת מודלים של ראיית מחשב. בעבודה קשורה, חברי מעבדת Visual AI פרסמו השוואה בין שיטות מניעת הטיה קיימות במודלים של ראיית מחשב בעצמם והציעו גישה חדשה ויעילה יותר להפחתת הטיה.
הכלי הראשון, שנקרא REVISE, משתמששיטות סטטיסטיות לבחינת מערך נתונים עבור הטיות פוטנציאליות או בעיות ייצוג פוטנציאליות לאורך שלושה מימדים: אובייקט, מגדר וגיאוגרפיה.
REVISE מעריך את תוכן מערך הנתונים,באמצעות הערות ומדידות קיימות של תמונות, כגון מספר האובייקטים, נוכחות משולבת של אובייקטים ואנשים, ומדינת המוצא של התמונות. בין המדידות הללו, הכלי מזהה דפוסים השונים מההתפלגות החציונית.
במערך נתונים אחד, REVISE זיהה פוטנציאלהטיה מגדרית בתמונות המתארות אנשים (מלבנים אדומים) ואיבר כלי נגינה (מלבנים כחולים). ניתוח התפלגות המרחקים התלת-ממדיים המשוערים בין אדם לאיבר, הראה כי גברים מתוארים בדרך כלל כנגינה בפועל בכלי, בעוד שנשים לרוב פשוט נמצאות באותו מרחב כמו הכלי. קרדיט: מעבדת AI חזותית של פרינסטון.
לדוגמה, באחד מהסטים שנבדקונתוני REVISE הראו שתמונות הכוללות אנשים ופרחים היו שונות בין גברים לנשים: גברים נטו יותר להופיע עם פרחים בטקסים או פגישות, ונשים נטו יותר להופיע במסגרות או בציורים מבוימים.
ברגע שהכלי מזהה סוג זה שלאי-התאמות, "נשאלת השאלה אם זו עובדה לא מזיקה לחלוטין או שיש משהו חשוב יותר קורה, וקשה מאוד לבצע את זה", מסבירה אולגה רוסקובסקיה, פרופסור למדעי המחשב וחוקרת ראשית של מעבדת הבינה המלאכותית החזותית.
"הנוהג לאסוף מערכי נתונים במחשבמדע עד לאחרונה לא נחקר כל כך ביסודיות ", מסכמת הכותבת המשותפת אנג'לינה וואנג, סטודנטית לתואר שני במדעי המחשב. היא מסבירה שהתמונות לרוב "מהאינטרנט, ואנשים לא תמיד מבינים שמשתמשים בתמונות שלהם [בערכות נתונים]. עלינו לאסוף תמונות מקבוצות אנשים מגוונות יותר ולעשות זאת בכבוד. "
קרא גם:
אפשר ליצור כור תרמו-גרעיני בכדור הארץ. מה יהיו ההשלכות?
קרחון יום הדין התגלה כמסוכן יותר ממה שחשבו המדענים. אנחנו מספרים את העיקר
ביום המחלה השלישי, רוב החולים ב- COVID-19 מאבדים את חוש הריח שלהם ולעיתים קרובות סובלים מנזלת