Participantes não treinados conseguem distinguir uma imagem real de uma falsa em menos da metade dos casos,
Para conduzir o estudo, os autores selecionaram 400fotografias reais e 400 imagens criadas por uma rede neural. Em cada conjunto havia proporções iguais de mulheres e homens, representantes de diferentes raças e idades.
Os participantes do experimento foram mostrados 128 aleatoriamentefotos selecionadas e solicitadas a determinar se é real ou falsa. Em média, os sujeitos responderam corretamente em 48,2% dos casos. Ao mesmo tempo, o número de erros na classificação de fotografias de homens brancos foi maior do que na análise de fotografias de mulheres ou representantes de outras raças. Segundo os autores, o motivo é que mais imagens de homens brancos estão disponíveis para aprendizado de máquina de IA, o que significa que a qualidade do falso está aumentando.
O segundo grupo de participantes do estudopré-treinamento em reconhecimento facial gerado por computador. Eles foram mostrados exemplos de vestígios de processamento de imagem que poderiam indicar uma falsificação. Além disso, após cada resposta, os participantes eram informados se haviam classificado corretamente a imagem. Nesse caso, a qualidade do reconhecimento de fotos falsas aumentou, mas apenas até 59%.
Os pesquisadores também perguntaram a um grupo separado de223 participantes avaliaram, em uma escala de 1 a 7, o quão confiáveis eles achavam que as pessoas nas imagens eram. O nível médio de confiança em pessoas reais foi de 4,48 e em pessoas falsas - 4,82. A diferença de 8%, segundo os pesquisadores, ultrapassa a margem de erro e é significativa. Curiosamente, três das quatro pessoas mais confiáveis eram falsas, enquanto todas as quatro menos confiáveis eram reais.
"Descobrimos que rostos criados artificialmenteinspiram mais confiança do que os reais, escrevem os autores do estudo. “Isso provavelmente se deve ao fato de as faces sintetizadas serem mais semelhantes às médias, que, como já foi comprovado anteriormente, são consideradas mais confiáveis.”
Síntese de som, imagem e vídeo como uso da IA tornou amplamente disponíveis os efeitos especiais do nível de Hollywood. Discurso sintetizado, imagens fictícias e substituição de uma pessoa por outra não são mais apenas entretenimento, mas também uma oportunidade para fraude e engano. “O fácil acesso a essas imagens falsas de alta qualidade levará a uma variedade de problemas, incluindo, por exemplo, perfis falsos mais convincentes nas redes sociais, fraude e campanhas de desinformação, com graves consequências para os indivíduos e para a sociedade como um todo”, afirmam os cientistas. observação.
Consulte Mais informação:
Cientistas encontraram as pessoas mais saudáveis da Terra: trata-se de um estilo de vida único
O perigo das VPNs gratuitas. Por que eles não podem ser baixados e como se proteger?
Físicos recriaram as habilidades do T-1000 do "Terminator-2" em laboratório