Bogdan Kulinich, diplomato all'Accademia Kyiv-Mohyla, vince il concorso su Twitter per trovare pregiudizi algoritmici

Il social network Twitter ha annunciato i risultati di un concorso aperto per la ricerca di bias algoritmici nei suoi

La società ha disattivato il ritaglio automatico delle foto nel marzo di quest'anno dopo che gli utenti di Twitter hanno condotto esperimenti l'anno scorso che hanno dimostrato che stava dando viaL'azienda ha quindi lanciato un concorso per trovare errori algoritmici per cercare di analizzare il problema in modo più approfondito.

Il concorso ha confermato le conclusioni precedenti.Il primo classificato ha rilevato che l'algoritmo di ritaglio di Twitter favorisce i volti "magri, giovani, con tonalità della pelle chiare o calde e una struttura della pelle liscia, e quelli con caratteristiche stereotipicamente femminili". Le voci del secondo e terzo posto hanno mostrato che il sistema era prevenuto nei confronti delle persone con i capelli bianchi o grigi, segno di discriminazione basata sull’età, e nelle immagini preferiva la scrittura inglese rispetto a quella araba.

Primo posto al concorso e premio principale di 3500I dollari americani sono stati ricevuti da Bogdan Kulinich, laureato all'Accademia Kiev-Mohyla e studente laureato all'EPFL, un'università di ricerca in Svizzera. Kulinich ha utilizzato un programma di intelligenza artificiale chiamato StyleGAN2 per creare un gran numero di volti realistici, che ha variato in base al colore della pelle, alle caratteristiche femminili e maschili e alla snellezza. Ha poi inserito queste scelte nell'algoritmo di ritaglio delle foto di Twitter per determinare quale fosse preferibile.

Come osserva Kulinich nella nota di accompagnamento,Questi pregiudizi algoritmici rafforzano i pregiudizi nella società, eliminando letteralmente "coloro che non si adattano alle preferenze dell'algoritmo riguardo al peso corporeo, all'età, al colore della pelle".

L'approccio aperto di Twitter contrasta con la reazionealtre aziende tecnologiche si trovano ad affrontare problemi simili. Ad esempio, quando i ricercatori guidati da Joy Buolamwini del MIT hanno scoperto pregiudizi razziali e di genere negli algoritmi di riconoscimento facciale di Amazon, l'azienda ha lanciato una massiccia campagna diffamatoria contro i partecipanti, definendo il loro lavoro "fuorviante". e "falso". Dopo mesi di polemiche sui risultati, Amazon alla fine ha ceduto, vietando temporaneamente l’uso di questi algoritmi.

Fonte: cnet

Illustrazioni: theverge, Bogdan Kulinich

</ p>