Los participantes no entrenados pueden distinguir una imagen real de una falsificación en menos de la mitad de los casos.
Para el estudio, los autores seleccionaron 400 fotografías reales y 400 imágenes creadas por una red neuronal.En cada conjunto, mujeres y hombres de diferentes razas y edades estaban representados en proporciones iguales.
A los participantes en el experimento se les mostró 128 aleatoriamentefotos seleccionadas y se les pide que determinen si es real o falso. En promedio, los sujetos respondieron correctamente en el 48,2% de los casos. Al mismo tiempo, el número de errores en la clasificación de fotografías de hombres blancos fue mayor que en el análisis de fotografías de mujeres o representantes de otras razas. Según los autores, la razón es que hay más imágenes de hombres blancos disponibles para el aprendizaje automático de IA, lo que significa que la calidad de la falsificación está aumentando.
El segundo grupo de participantes del estudio.pre-entrenamiento en reconocimiento facial generado por computadora. Se les mostraron ejemplos de rastros de procesamiento de imágenes que podrían indicar una falsificación. Además, tras cada respuesta, se informaba a los participantes si habían clasificado correctamente la imagen. En este caso, la calidad del reconocimiento de fotos falsas aumentó, pero solo hasta un 59%.
Los investigadores también preguntaron a un grupo separado de223 participantes calificaron en una escala del 1 al 7 qué tan confiables pensaban que eran las personas en las imágenes. El nivel medio de confianza en personas reales fue de 4,48 y en personas falsas, de 4,82. La diferencia del 8%, según los investigadores, supera el margen de error y es significativa. Curiosamente, tres de las cuatro personas más confiables eran falsas, mientras que las cuatro menos confiables eran reales.
"Descubrimos que las caras creadas artificialmenteinspiran más confianza que los reales, escriben los autores del estudio. "Esto probablemente se deba al hecho de que las caras sintetizadas son más similares a las promedio, que, como se demostró anteriormente, se consideran más confiables".
Síntesis de sonido, imagen y vídeo conEl uso de IA ha hecho que los efectos especiales al nivel de Hollywood estén ampliamente disponibles. El discurso sintetizado, las imágenes ficticias y la sustitución de una persona por otra ya no son sólo entretenimiento, sino también una oportunidad para el fraude y el engaño. "El fácil acceso a imágenes falsas de tan alta calidad conducirá a una variedad de problemas, incluidos, por ejemplo, perfiles falsos más convincentes en las redes sociales, campañas de fraude y desinformación, con graves consecuencias para los individuos y la sociedad en su conjunto", afirman los científicos. nota.
Lee mas:
Los científicos han encontrado a las personas más sanas de la Tierra: se trata de un estilo de vida único
El peligro de las VPN gratuitas. ¿Por qué no se pueden descargar y cómo protegerse?
Los físicos han recreado las habilidades del T-1000 del "Terminator-2" en el laboratorio.