Vaikka tekoälyjärjestelmien vinoumien lähteet vaihtelevat, yksi vinoumien tärkeimmistä syistä on stereotyyppinen
Auttaa korjaamaan tämä ongelma hänessäAlun perin Princeton Visual AI Lab -lehden tutkijat ovat kehittäneet avoimen lähdekoodin työkalun, joka havaitsee automaattisesti mahdolliset korruptiot visuaalisissa aineistoissa. Työkalu antaa tietojoukkojen luojille ja käyttäjille mahdollisuuden korjata aliedustus tai stereotyyppiset kuvaongelmat, ennen kuin kuvakokoelmia käytetään tietokonenäkömallien kouluttamiseen. Aiheeseen liittyvässä työssä Visual AI Lab: n jäsenet julkaisivat vertailun olemassa olevista bias-ehkäisymenetelmistä tietokonenäkömalleissa ja ehdottivat uutta, tehokkaampaa lähestymistapaa ennakkoluulojen vähentämiseen.
Ensimmäinen työkalu, nimeltään REVISSE, käyttää tilastollisia tekniikoita tarkastaakseen tietojoukonmahdollinen vinouma tai aliedustuksen ongelmat kolmessa ulottuvuudessa: kohde, sukupuoli ja maantieteellinen.
REVISE arvioi tietojoukon sisällön,käyttämällä olemassa olevia kuvamerkintöjä ja mittauksia, kuten esineiden lukumäärä, esineiden ja ihmisten yhteenlaskettu läsnäolo ja kuvien alkuperämaa. Näiden mittausten joukosta työkalu tunnistaa mallit, jotka eroavat mediaanijakaumasta.
Yhdessä tietojoukossa REVISE tunnisti potentiaalinsukupuolten puolueellisuus ihmisissä (punaiset suorakulmiot) ja soittimen urut (siniset suorakulmiot) kuvaavissa kuvissa. Analyysi arvioitujen kolmiulotteisten etäisyyksien jakautumisesta ihmisen ja urun välillä osoitti, että miehet kuvattiin yleensä itse soittavina, kun taas naiset olivat usein yksinkertaisesti samassa tilassa kuin instrumentti. Luotto: Princeton Visual AI Lab.
Esimerkiksi yhdessä testatuista aineistoista REVISE osoitti, että ihmisiä ja kukkia esittävät kuvat vaihtelivat miesten ja naisten välillä: miehet esiintyivät todennäköisemmin kukkien kanssa seremonioissa tai kokouksissa, ja naiset esiintyivät yleensä lavastetuissa lavasteissa tai maalauksissa.
Kun työkalu havaitsee tällaisen"Hertyy kysymys, onko tämä täysin vaaraton tosiasia vai onko jotain tärkeämpää, ja tämä on erittäin vaikea automatisoida", selittää Olga Rusakovskaja, tietojenkäsittelytieteen apulaisprofessori ja Visual AI Labin päätutkija.
”Käytäntö kerätä tietoaineistoja tietokoneellatieteitä viime aikoihin asti ei ole tutkittu niin perusteellisesti ”, toteaa toinen kirjoittaja tietojenkäsittelytieteen jatko-opiskelija Angelina Wang. Hän selittää, että kuvat ovat enimmäkseen Internetistä, eivätkä ihmiset aina ymmärrä, että heidän kuviaan käytetään [aineistoissa]. Meidän on kerättävä kuvia erilaisemmilta ihmisryhmiltä ja tehtävä se kunnioittavasti. "
Lue myös:
Maapallolle on mahdollista luoda lämpöydinreaktori. Mitkä ovat seuraukset?
Tuomiopäivän jäätikkö osoittautui vaarallisemmaksi kuin tutkijat ajattelivat. Kerromme pääasia
Sairauspäivänä 3 useimmat COVID-19-potilaat menettävät hajuaistunsa ja kärsivät usein nenästä