Lai gan neobjektivitātes avoti AI sistēmās ir dažādi, viens no galvenajiem neobjektivitātes cēloņiem ir stereotips
Lai palīdzētu viņai novērst šo problēmuSākotnēji Princeton Visual AI Lab pētnieki ir izstrādājuši atvērtā koda rīku, kas automātiski nosaka iespējamos korupcijas vizuālajās datu kopās. Šis rīks ļauj datu kopu veidotājiem un lietotājiem izlabot nepietiekamas attēlojuma vai stereotipisku attēlu problēmas, pirms attēlu kolekcijas tiek izmantotas datorvīzijas modeļu apmācībai. Saistītajā darbā Visual AI Lab locekļi paši publicēja pašreizējo neobjektivitātes novēršanas metožu salīdzinājumu datorredzes modeļos un ierosināja jaunu, efektīvāku pieeju neobjektivitātes samazināšanai.
Pirmais rīks, ko sauc par REVISE, izmanto statistikas metodes, lai pārbaudītu datu kopuIespējamā neobjektivitāte vai nepietiekamas pārstāvības problēmas trīs dimensijās: objekts, dzimums un ģeogrāfiskais.
REVISE novērtē datu kopas saturu,izmantojot esošās attēlu anotācijas un mērījumus, piemēram, objektu skaitu, objektu un cilvēku kopējo klātbūtni un attēlu izcelsmes valsti. Starp šiem mērījumiem rīks identificē modeļus, kas atšķiras no vidējā sadalījuma.
Vienā datu kopā REVISE identificēja potenciāludzimumu neobjektivitāte attēlos, kuros attēloti cilvēki (sarkani taisnstūri) un mūzikas instrumenta ērģeles (zili taisnstūri). Analizējot aplēsto trīsdimensiju attālumu sadalījumu starp cilvēku un orgānu, parādījās, ka vīrieši parasti tiek attēloti kā faktiski spēlējoši instrumentu, savukārt sievietes bieži atrodas vienkārši vienā telpā ar instrumentu. Kredīts: Princeton Visual AI Lab.
Piemēram, vienā no pārbaudītajām datu kopām REVISE parādīja, ka attēli, kuros iesaistīti cilvēki un ziedi, vīriešiem un sievietēm atšķīrās: vīrieši biežāk parādījās ar ziediem ceremonijās vai sanāksmēs, un sievietes mēdza parādīties iestudētos komplektos vai gleznās.
Kad rīks konstatē šāda veidaneatbilstības, "rodas jautājums, vai tas ir pilnīgi nekaitīgs fakts, vai notiek kaut kas svarīgāks, un to ir ļoti grūti automatizēt," skaidro Olga Rusakovska, datorzinātņu docente un Visual AI Lab galvenā pētniece.
“Datu kopu vākšanas prakse datorāzinātne vēl nesen nav tik rūpīgi pētīta, ”secina pētījuma līdzautore, datorzinātņu maģistrante Angelīna Vanga. Viņa paskaidro, ka attēli galvenokārt ir “no interneta, un cilvēki ne vienmēr saprot, ka viņu attēli tiek izmantoti [datu kopās]. Mums jāsavāc attēli no daudzveidīgākām cilvēku grupām un jādara tas ar cieņu. "
Lasīt arī:
Uz Zemes ir iespējams izveidot kodolreaktoru. Kādas būs sekas?
Doomsday ledājs izrādījās bīstamāks, nekā domāja zinātnieki. Mēs sakām galveno
Slimības 3. dienā lielākajai daļai COVID-19 pacientu zūd oža un bieži cieš no iesnas