Sebbene le fonti di distorsione nei sistemi di intelligenza artificiale siano varie, una delle cause principali sono gli stereotipi.
Per aiutare a risolvere questo problema in leiIn origine, i ricercatori del Princeton Visual AI Lab hanno sviluppato uno strumento open source che rileva automaticamente potenziali corruzioni nei set di dati visivi. Lo strumento consente ai creatori di set di dati e agli utenti di correggere problemi di sottorappresentazione o immagini stereotipate prima che le raccolte di immagini vengano utilizzate per addestrare modelli di visione artificiale. Nel lavoro correlato, i membri del Visual AI Lab hanno pubblicato un confronto tra i metodi di prevenzione dei bias esistenti nei modelli di visione artificiale stessi e hanno proposto un nuovo approccio più efficace alla riduzione dei bias.
Il primo strumento, chiamato REVISE, utilizzametodi statistici per esaminare un set di dati per potenziali pregiudizi o problemi di sottorappresentazione lungo tre dimensioni: oggetto, genere e geografia.
REVISE valuta il contenuto del set di dati,utilizzando annotazioni e misurazioni di immagini esistenti come il numero di oggetti, la presenza combinata di oggetti e persone e il paese di origine delle immagini. Tra queste misurazioni, lo strumento identifica modelli che differiscono dalla distribuzione mediana.
In un set di dati, REVISE ha identificato un potenzialepregiudizi di genere nelle immagini raffiguranti persone (rettangoli rossi) e l'organo di uno strumento musicale (rettangoli blu). Un'analisi della distribuzione delle distanze tridimensionali stimate tra una persona e un organo ha mostrato che gli uomini erano solitamente raffigurati mentre suonavano effettivamente lo strumento, mentre le donne erano spesso semplicemente nello stesso spazio dello strumento. Credito: Princeton Visual AI Lab.
Ad esempio, in uno dei set testatiI dati REVISE hanno mostrato che le immagini che coinvolgevano persone e fiori differivano tra uomini e donne: gli uomini avevano maggiori probabilità di apparire con fiori durante cerimonie o riunioni, e le donne avevano maggiori probabilità di apparire in ambientazioni o dipinti.
Una volta che lo strumento rileva questo tipo di filediscrepanze, "sorge la domanda se si tratta di un fatto del tutto innocuo o se sta succedendo qualcosa di più importante, e questo è molto difficile da automatizzare", spiega Olga Rusakovskaya, assistente professore di informatica e ricercatrice principale del Visual AI Lab.
“La pratica di raccogliere set di dati nel computerla scienza fino a poco tempo fa non era stata studiata così a fondo ", conclude la coautrice Angelina Wang, una studentessa laureata in informatica. Spiega che le immagini provengono principalmente da Internet e le persone non sempre capiscono che le loro immagini vengono utilizzate [nei set di dati]. Dobbiamo raccogliere immagini da gruppi più diversi di persone e farlo con rispetto ".
Leggi anche:
È possibile creare un reattore termonucleare sulla Terra. Quali saranno le conseguenze?
Il ghiacciaio Doomsday si è rivelato più pericoloso di quanto pensassero gli scienziati. Diciamo la cosa principale
Al terzo giorno di malattia, la maggior parte dei pazienti COVID-19 perde il senso dell'olfatto e spesso soffre di naso che cola