Bogdan Kulinich, afgestudeerd aan de Kyiv-Mohyla Academy, wint de Twitter-wedstrijd om algoritmische vooringenomenheid te vinden

Социальная сеть Twitter объявила результаты открытого конкурса по поиску алгоритмической предвзятости в своей

systeem voor het bijsnijden van foto's.Het bedrijf schakelde in maart van dit jaar het automatisch bijsnijden van foto's uit nadat Twitter-gebruikers vorig jaar experimenten hadden uitgevoerd waaruit bleek dat het de voorkeur gaf aan witte gezichten boven zwarte. Het bedrijf lanceerde vervolgens een wedstrijd om algoritmische bugs te vinden en zo het probleem grondiger te analyseren.

De wedstrijd bevestigde eerdere conclusies.Uit het artikel op de eerste plaats bleek dat het bijsnijdalgoritme van Twitter de voorkeur geeft aan gezichten die "dun, jong zijn, met lichte of warme huidtinten en een gladde huidtextuur, en gezichten met stereotiep vrouwelijke kenmerken." Uit de inzendingen op de tweede en derde plaats bleek dat het systeem bevooroordeeld was tegen mensen met wit of grijs haar, een teken van leeftijdsdiscriminatie, en dat het in afbeeldingen de voorkeur gaf aan Engels boven Arabisch schrift.

Eerste plaats in de competitie en de hoofdprijs van 3500Amerikaanse dollars werden ontvangen door Bogdan Kulinich, afgestudeerd aan de Kiev-Mohyla Academie en een afgestudeerde student aan EPFL, een onderzoeksuniversiteit in Zwitserland. Kulinich gebruikte een AI-programma genaamd StyleGAN2 om een ​​groot aantal realistische gezichten te creëren, die hij varieerde op basis van huidskleur, vrouwelijke en mannelijke kenmerken en slankheid. Vervolgens voerde hij die keuzes in het Twitter-algoritme voor het bijsnijden van foto's in om te bepalen welke de voorkeur had.

Zoals Kulinich opmerkt in de begeleidende notitie:Deze algoritmische vooroordelen versterken de vooroordelen in de samenleving en elimineren letterlijk ‘degenen die niet voldoen aan de voorkeuren van het algoritme op het gebied van lichaamsgewicht, leeftijd en huidskleur’.

De open benadering van Twitter staat in schril contrast met de reactieandere technologiebedrijven die met soortgelijke problemen kampen. Toen onderzoekers onder leiding van Joy Buolamwini van MIT bijvoorbeeld raciale en gendervooroordelen ontdekten in de gezichtsherkenningsalgoritmen van Amazon, lanceerde het bedrijf een enorme lastercampagne tegen de deelnemers, waarbij ze hun werk ‘misleidend’ noemden. en “vals”. Na maanden van controverse over de bevindingen gaf Amazon uiteindelijk toe en plaatste een tijdelijk verbod op het gebruik van deze algoritmen.

Bron: cnet

Illustraties: theverge, Bogdan Kulinich

</ p>