Détecteur Deepfake trompé pour la première fois

Les programmeurs ont montré que le détecteur peut être trompé en insérant des données d'entrée, également appelées exemples.

contradictoire, dans chaque image vidéo.Les exemples contradictoires sont des entrées légèrement modifiées qui provoquent des erreurs dans les systèmes d’intelligence artificielle. De plus, l’équipe a montré que la méthode fonctionne même après compression vidéo.

Rappelons que dans les deepfakes ou deepfakes le visagen'importe quel sujet peut être transformé en celui de quelqu'un d'autre pour qu'il paraisse crédible. De cette façon, vous pouvez créer des images réalistes d’événements qui ne se sont jamais réellement produits.

Les détecteurs deepfake typiques se concentrent sur les visagesdans la vidéo: ils les suivent d'abord, puis envoient une partie distincte du visage à un réseau neuronal qui détermine si la vidéo est réelle ou fausse. Par exemple, le clignotement des yeux est mal reproduit dans les deepfakes, de sorte que les détecteurs se concentrent sur les mouvements des yeux. Les détecteurs Deepfake modernes s'appuient sur des modèles d'apprentissage automatique pour identifier les fausses vidéos.

Les auteurs de l'ouvrage ont testé leur traitement vidéodans deux scénarios : premièrement, où les attaquants ont un accès complet au modèle de détecteur, à la méthode d'extraction de visage ainsi qu'à l'architecture et aux paramètres du modèle de classification ; et un autre dans lequel les attaquants peuvent uniquement interroger un modèle d'apprentissage automatique pour connaître la probabilité qu'une trame soit classée comme réelle ou fausse.

Dans le premier cas, la probabilité de tromper le détecteurétait de 99% pour les vidéos non compressées et de 84,96% pour les vidéos compressées. Dans le second cas, le détecteur a pu tricher à 86,43% pour la vidéo non compressée et 78,33% pour la vidéo compressée. Il s'agit du premier travail à démontrer des attaques réussies sur des détecteurs deepfake modernes.

Les programmeurs californiens ont refusé de publier leur code open source afin qu'il ne soit pas utilisé à des fins de désinformation.

Lire la suite:

Regardez une image de 8 trillions de pixels de Mars

Un moteur de fusée nucléaire est en cours de construction pour les vols vers Mars. En quoi est-ce dangereux?

Avortement et science: qu'arrivera-t-il aux enfants qui accoucheront