Bogdan Kulinich, graduado de la Academia Kyiv-Mohyla, gana el concurso de Twitter para encontrar sesgos algorítmicos

La red social Twitter ha anunciado los resultados de un concurso abierto para encontrar sesgos algorítmicos en sus

Sistema de recorte de fotografías.La compañía desactivó el recorte automático de fotografías en marzo de este año después de que los usuarios de Twitter realizaran experimentos el año pasado que demostraron que prefería las caras blancas a las negras. Luego, la empresa lanzó un concurso para encontrar errores algorítmicos e intentar analizar el problema más a fondo.

El concurso confirmó conclusiones anteriores.El artículo que obtuvo el primer lugar encontró que el algoritmo de recorte de Twitter favorece a los rostros que son "delgados, jóvenes, con tonos de piel claros o cálidos y una textura de piel suave, y aquellos con rasgos estereotípicamente femeninos". Las entradas del segundo y tercer lugar mostraron que el sistema estaba sesgado contra las personas con cabello blanco o gris, un signo de discriminación por edad, y favorecía el inglés sobre la escritura árabe en las imágenes.

Primer puesto en el concurso y premio principal de 3500Los dólares estadounidenses los recibió Bogdan Kulinich, graduado de la Academia Kiev-Mohyla y estudiante de posgrado de la EPFL, una universidad de investigación de Suiza. Kulinich usó un programa de inteligencia artificial llamado StyleGAN2 para crear una gran cantidad de rostros realistas, que varió según el color de la piel, los rasgos femeninos y masculinos y la esbeltez. Luego introdujo esas opciones en el algoritmo de recorte de fotografías de Twitter para determinar cuál era preferible.

Como señala Kulinich en la nota adjunta,Estos sesgos algorítmicos refuerzan los prejuicios en la sociedad, eliminando literalmente a "aquellos que no se ajustan a las preferencias del algoritmo con respecto al peso corporal, la edad y el color de la piel".

La actitud abierta de Twitter contrasta con la reacciónotras empresas de tecnología que enfrentan problemas similares. Por ejemplo, cuando investigadores dirigidos por Joy Buolamwini del MIT descubrieron prejuicios raciales y de género en los algoritmos de reconocimiento facial de Amazon, la compañía lanzó una campaña masiva de desprestigio contra los participantes, calificando su trabajo de "engañoso" y “falso”. Después de meses de controversia sobre los hallazgos, Amazon finalmente cedió y prohibió temporalmente el uso de estos algoritmos.

Fuente: cnet

Ilustraciones: theverge, Bogdan Kulinich

</ p>