Nors AI sistemų šališkumo šaltiniai yra įvairūs, viena iš pagrindinių priežasčių yra stereotipai.
Kad padėtų jai išspręsti šią problemąIš pradžių „Princeton Visual AI Lab“ tyrėjai sukūrė atviro kodo įrankį, kuris automatiškai aptinka galimus vaizdinių duomenų rinkinių pažeidimus. Šis įrankis leidžia duomenų rinkinių kūrėjams ir vartotojams ištaisyti nepakankamo vaizdavimo ar stereotipinių vaizdų problemas, kol vaizdų rinkiniai naudojami mokant kompiuterio regėjimo modelių. Susijusiame straipsnyje „Visual AI Lab“ nariai paskelbė esamų kompiuterinių regėjimo modelių šališkumo prevencijos metodų palyginimą ir pasiūlė naują, efektyvesnį požiūrį į šališkumo mažinimą.
Naudojamas pirmasis įrankis, vadinamas REVISEstatistiniai metodai, skirti duomenų rinkiniui ištirti dėl galimo šališkumo ar nepakankamo atstovavimo problemų trimis aspektais: objektas, lytis ir geografija.
REVISE įvertina duomenų rinkinio turinį,naudojant esamas vaizdo anotacijas ir matavimus, tokius kaip objektų skaičius, bendras objektų ir žmonių buvimas bei vaizdų kilmės šalis. Tarp šių matavimų įrankis nustato modelius, kurie skiriasi nuo vidutinio pasiskirstymo.
Viename duomenų rinkinyje REVISE nustatė potencialąlyčių šališkumas vaizduose, vaizduojančiuose žmones (raudoni stačiakampiai) ir muzikos instrumento vargonai (mėlyni stačiakampiai). Apskaičiuotų trijų matmenų atstumų tarp žmogaus ir organo pasiskirstymo analizė parodė, kad vyrai dažniausiai vaizduojami kaip iš tikrųjų grojantys instrumentu, o moterys dažnai būna tiesiog toje pačioje erdvėje kaip ir instrumentas. Kreditas: „Princeton Visual AI Lab“.
Pavyzdžiui, viename iš išbandytų rinkiniųREVISE duomenys parodė, kad vaizdai su žmonėmis ir gėlėmis skiriasi tarp vyrų ir moterų: vyrai dažniau pasirodė su gėlėmis ceremonijose ar susitikimuose, o moterys dažniau pasirodo scenose ar paveiksluose.
Kai įrankis aptinka tokio tipoнесоответствия, «возникает вопрос, является ли это совершенно безобидным фактом или происходит нечто более важное, и это очень трудно автоматизировать», — объясняет Ольга Русаковская, доцент кафедры информатики и главный исследователь Visual AI Lab.
„Praktika rinkti duomenų rinkinius kompiuteryjemokslai dar neseniai nebuvo taip nuodugniai studijuoti “, - apibendrina bendraautorė, informatikos magistrantė Angelina Wang. Ji paaiškina, kad vaizdai dažniausiai yra „iš interneto, ir žmonės ne visada supranta, kad jų vaizdai naudojami [duomenų rinkiniuose]. Turime rinkti vaizdus iš įvairesnių žmonių grupių ir tai daryti pagarbiai “.
Taip pat skaitykite:
Žemėje įmanoma sukurti termobranduolinį reaktorių. Kokios bus pasekmės?
Doomsday ledynas pasirodė pavojingesnis, nei manė mokslininkai. Mes pasakome pagrindinį dalyką
3 ligos dieną dauguma COVID-19 pacientų praranda kvapo pojūtį ir dažnai kenčia nuo slogos