Los programadores han demostrado que se puede engañar al detector insertando datos de entrada, también llamados ejemplos.
Te recordamos que en los deepfakes o deepfakes la caracualquier tema se puede cambiar por el de otra persona para que parezca creíble. De esta manera puedes crear imágenes realistas de eventos que en realidad nunca sucedieron.
Los detectores de deepfake típicos se enfocan en rostrosen el video: primero los rastrean y luego envían una parte separada de la cara a una red neuronal que determina si el video es real o falso. Por ejemplo, el parpadeo de los ojos se reproduce mal en los deepfakes, por lo que los detectores se enfocan en los movimientos oculares. Los detectores de Deepfake modernos se basan en modelos de aprendizaje automático para identificar videos falsos.
Los autores del trabajo probaron su procesamiento de vídeo.en dos escenarios: primero, donde los atacantes tienen acceso completo al modelo del detector, el método de extracción de rostros y la arquitectura y parámetros del modelo de clasificación; y otro en el que los atacantes sólo pueden consultar un modelo de aprendizaje automático para descubrir la probabilidad de que un marco se clasifique como real o falso.
En el primer caso, la probabilidad de engañar al detector.fue del 99% para los videos sin comprimir y del 84,96% para los comprimidos. En el segundo caso, el detector pudo hacer trampa al 86,43% para video sin comprimir y al 78,33% para video comprimido. Este es el primer trabajo para demostrar ataques exitosos en detectores de deepfake modernos.
Los programadores de California se negaron a publicar su código fuente abierto para que no se usara para desinformación.
Lee mas:
Mira una imagen de 8 billones de píxeles de Marte
Se está construyendo un motor de cohete nuclear para vuelos a Marte. ¿Cómo es peligroso?
Aborto y ciencia: que pasará con los niños que darán a luz