Selvom kilderne til bias i AI-systemer er forskellige, er en af hovedårsagerne stereotyping.
For at hjælpe med at løse dette problem i hendeOprindeligt har forskere ved Princeton Visual AI Lab udviklet et open source-værktøj, der automatisk registrerer potentielle korruption i visuelle datasæt. Værktøjet giver datasætskabere og brugere mulighed for at rette problemer med underrepræsentation eller stereotype billeddannelse, før billedsamlinger bruges til at træne computersynsmodeller. I beslægtet arbejde offentliggjorde medlemmer af Visual AI Lab en sammenligning af eksisterende teknikker til forebyggelse af bias i computersynsmodellerne selv og foreslog en ny, mere effektiv tilgang til biasreduktion.
Det første værktøj, kaldet REVISE, brugerstatistiske metoder til at undersøge et datasæt for potentielle skævheder eller underrepræsentationsproblemer langs tre dimensioner: objekt, køn og geografi.
REVISE evaluerer indholdet af datasættet,ved hjælp af eksisterende billedkommentarer og målinger såsom antallet af objekter, den kombinerede tilstedeværelse af objekter og mennesker og oprindelseslandet for billederne. Blandt disse målinger identificerer værktøjet mønstre, der adskiller sig fra medianfordelingen.
I et datasæt identificerede REVISE et potentialekønsforstyrrelse i billeder, der skildrer mennesker (røde rektangler) og orgel af et musikinstrument (blå rektangler). En analyse af fordelingen af de estimerede tredimensionelle afstande mellem en person og et organ viste, at mænd normalt blev afbildet som faktisk spiller instrumentet, mens kvinder ofte simpelthen var i samme rum som instrumentet. Kredit: Princeton Visual AI Lab.
For eksempel i et af de testede sætREVISE data viste, at billeder, der involverede mennesker og blomster, var forskellige mellem mænd og kvinder: mænd var mere tilbøjelige til at optræde med blomster ved ceremonier eller møder, og kvinder var mere tilbøjelige til at optræde i scener eller malerier.
Når værktøjet opdager denne slagsuoverensstemmelser, "opstår spørgsmålet, om dette er en fuldstændig harmløs kendsgerning, eller om der er noget vigtigere i gang, og det er meget svært at automatisere," forklarer Olga Rusakovskaya, assisterende professor i datalogi og hovedefterforsker af Visual AI Lab.
”Praksis med at indsamle datasæt i computerenvidenskab indtil for nylig ikke er blevet undersøgt så grundigt, ”slutter medforfatter Angelina Wang, kandidatstuderende i datalogi. Hun forklarer, at billederne for det meste er “fra Internettet, og folk forstår ikke altid, at deres billeder bliver brugt [i datasæt]. Vi er nødt til at indsamle billeder fra flere forskellige grupper af mennesker og gøre det med respekt. "
Læs også:
Det er muligt at skabe en termonuklear reaktor på Jorden. Hvad vil konsekvenserne være?
Dommedagsbreen viste sig at være farligere end forskere troede. Vi fortæller det vigtigste
På sygdom 3 mister de fleste COVID-19 patienter deres lugtesans og lider ofte af en løbet næse