A rede social Twitter anunciou os resultados de um concurso aberto para encontrar vieses algorítmicos em seu
A competição confirmou conclusões anteriores.O primeiro artigo descobriu que o algoritmo de corte do Twitter favorece rostos “magros, jovens, com tons de pele claros ou quentes e textura de pele suave, e aqueles com características estereotipadas femininas”. As entradas do segundo e terceiro lugares mostraram que o sistema era tendencioso contra pessoas com cabelos brancos ou grisalhos, um sinal de discriminação por idade, e favorecia o inglês em vez da escrita árabe nas imagens.
Primeiro lugar na competição e prêmio principal de 3.500Os dólares americanos foram recebidos por Bogdan Kulinich, formado pela Academia Kiev-Mohyla e estudante de pós-graduação na EPFL, uma universidade de pesquisa na Suíça. Kulinich usou um programa de IA chamado StyleGAN2 para criar um grande número de rostos realistas, que ele variou de acordo com a cor da pele, características femininas e masculinas e magreza. Ele então inseriu essas variações no algoritmo de corte de fotos do Twitter para determinar qual era preferível.
Como observa Kulinich na nota anexa,Esses preconceitos algorítmicos reforçam os preconceitos na sociedade, literalmente eliminando “aqueles que não se enquadram nas preferências do algoritmo em relação ao peso corporal, idade, cor da pele”.
A abordagem aberta do Twitter contrasta com a reaçãooutras empresas de tecnologia que enfrentam problemas semelhantes. Por exemplo, quando investigadores liderados por Joy Buolamwini, do MIT, descobriram preconceitos raciais e de género nos algoritmos de reconhecimento facial da Amazon, a empresa lançou uma campanha massiva para desacreditar os participantes, chamando o seu trabalho de “enganoso”; e “falso”. Após meses de controvérsia sobre as descobertas, a Amazon acabou cedendo, proibindo temporariamente o uso desses algoritmos.
Fonte: cnet
Ilustrações: theverge, Bogdan Kulinich
</ p>