Hoci sú zdroje zaujatosti v systémoch AI rôzne, jednou z hlavných príčin je stereotyp.
Pomôcť vyriešiť tento problém v nejPôvodne vedci z Princeton Visual AI Lab vyvinuli nástroj s otvoreným zdrojovým kódom, ktorý automaticky zisťuje potenciálne poškodenia vizuálnych množín údajov. Tento nástroj umožňuje tvorcom súborov a používateľom opraviť problémy s nedostatočným zastúpením alebo stereotypnými obrázkami predtým, ako sa zbierky obrázkov použijú na školenie modelov počítačového videnia. V súvisiacej práci členovia laboratória Visual AI Lab zverejnili porovnanie existujúcich techník prevencie zaujatosti v samotných modeloch počítačového videnia a navrhli nový, účinnejší prístup k zníženiu zaujatosti.
Prvý nástroj s názvom REVISE používaštatistické metódy na preskúmanie množiny údajov z hľadiska potenciálnych predsudkov alebo problémov s nedostatočným zastúpením v troch dimenziách: objekt, pohlavie a geografia.
REVISE hodnotí obsah súboru údajov,pomocou existujúcich anotácií a meraní snímok, ako je počet predmetov, kombinovaná prítomnosť predmetov a osôb a krajina pôvodu snímok. Medzi týmito meraniami nástroj identifikuje vzory, ktoré sa líšia od mediánu distribúcie.
V jednom súbore údajov REVISE identifikoval potenciálrodová predpojatosť na obrázkoch, ktoré zobrazujú ľudí (červené obdĺžniky) a orgán hudobného nástroja (modré obdĺžniky). Analýza distribúcie odhadovaných trojrozmerných vzdialeností medzi osobou a orgánom ukázala, že muži boli zvyčajne zobrazovaní tak, že skutočne hrajú na nástroj, zatiaľ čo ženy boli často jednoducho v rovnakom priestore ako nástroj. Kredit: Princeton Visual AI Lab.
Napríklad v jednej z testovaných súpravÚdaje REVISE ukázali, že obrázky ľudí a kvetov sa medzi mužmi a ženami líšia: muži sa častejšie objavovali s kvetmi na obradoch alebo stretnutiach a ženy sa častejšie objavovali v scénických prostrediach alebo na maľbách.
Akonáhle nástroj zistí tento druhnezrovnalosti, „vynára sa otázka, či ide o úplne neškodný fakt, alebo či sa deje niečo dôležitejšie, a to je veľmi ťažké automatizovať,“ vysvetľuje Olga Rusakovskaya, odborná asistentka informatiky a hlavná riešiteľka Visual AI Lab.
"Prax zhromažďovania súborov údajov v počítači."veda sa až donedávna tak dôkladne neštudovala, “uzatvára spoluautorka štúdie Angelina Wang, absolventka informatiky. Vysvetľuje, že obrázky sú väčšinou „z internetu a ľudia nie vždy chápu, že sa ich obrázky používajú [v množinách údajov]. Musíme zbierať obrázky od rozmanitejších skupín ľudí a robiť to s rešpektom. “
Prečítajte si tiež:
Na Zemi je možné vytvoriť termonukleárny reaktor. Aké to bude mať následky?
Ľadovec Doomsday sa ukázal byť nebezpečnejším, ako si vedci mysleli. Hovoríme to hlavné
V deň 3 choroby väčšina pacientov COVID-19 stratí čuch a často trpí nádchou.