Un réseau de neurones a truqué la parole pour tromper des algorithmes ou d'autres personnes
Des scientifiques de l'Université de Chicago
Les chercheurs ont mis en scène une situation oùl'attaquant avait un enregistrement de la voix de la victime, qui peut être trouvé dans le domaine public, ainsi que la possibilité de communiquer en direct et d'enregistrer le discours. Il est à noter que lors de l'entraînement, le réseau de neurones a pris en compte non seulement la voix, mais également le timbre avec l'intonation.
De plus, les auteurs ont utilisé lesréseaux de neurones qui peuvent être trouvés dans le domaine public. Ils en ont choisi deux : SV2TTS et AutoVC. Pour former les modèles, les auteurs ont utilisé des enregistrements vocaux de 90 personnes provenant de trois ensembles de données publics : VCTK, LibriSpeech et SpeechAccent.
En conséquence, les chercheurs dans environ 50 % des casconnecté avec succès à votre compte à l'aide d'une voix synthétisée par un réseau neuronal. De plus, lorsqu'elle parlait à l'algorithme, une personne ne pouvait pas distinguer à 50 % une vraie voix d'une fausse.
Un réseau de neurones a aidé à appliquer du maquillage pour tromper le système de reconnaissance faciale
Des chercheurs israéliens de l'université du nomBen Gourion a créé un réseau neuronal qui trompe les systèmes de reconnaissance faciale grâce au maquillage. Elle détermine les caractéristiques d'apparence que l'appareil lit le plus souvent, puis sélectionne un maquillage spécial qui contribuera à rendre le visage méconnaissable pour le système.
Pendant le fonctionnement, l'algorithme traite d'aborddes photos de cette personne, puis des photos d'autres personnes du même sexe. Ensuite, une carte thermique est créée qui montre les principales zones où se trouvent les caractéristiques distinctives qui doivent être corrigées. Après cela, le système crée l’image d’un nouveau visage maquillé et la teste par rapport à un système de reconnaissance faciale typique jusqu’à ce qu’il cesse d’y répondre.
Lorsque le maquillage optimal est obtenu, il peut être appliqué. Les auteurs notent que la précision du système de reconnaissance faciale diminue de 47,5% à 1,2%.
Le réseau de neurones a fait un visage universel pour tromper le système d'identification
Des chercheurs israéliens ont créé un réseau de neuronesqui génère des images de visages capables de simuler un grand nombre de personnalités pour les systèmes de reconnaissance. Selon les développeurs, leur algorithme crée des visages « universels ». Par exemple, neuf de ces images peuvent remplacer les photos d'au moins 40 % des personnes de la base de données ouverte.
En conséquence, le système a généré des visages qui ont été identifiés avec succès comme positifs dans 40 à 60 % des cas. Ils n'ont utilisé que neuf photos générées pour cela.
Le réseau de neurones trompe les yeux, créant le camouflage parfait
Des scientifiques de l'Université de Bristol ont réaliséun réseau de neurones qui analyse l'environnement et sélectionne la couleur optimale pour un objet. Ils ont noté que leur algorithme aidera les biologistes évolutionnistes à comprendre comment la coloration de diverses espèces vivantes a changé, ainsi que de quoi elle dépend.
Pour créer leur propre algorithme, les chercheursutilisé un ensemble d'algorithmes génétiques et d'apprentissage en profondeur. Ils se sont retrouvés avec des millions de modèles avec seulement quelques couleurs et peu d'apports d'observateurs humains.
La méthode a été testée sur des volontaires, ils doiventdevaient regarder des images avec des objets sur différents arrière-plans et appuyer sur un bouton dès qu'ils voyaient l'objet. À chaque fois, l’algorithme réduisait l’ensemble des couleurs et des motifs à ceux qui étaient les plus difficiles ou les plus faciles à voir. Selon que l'on souhaite trouver une coloration pour se camoufler ou pour se faire remarquer.
Un réseau de neurones qui trompe d'autres réseaux de neurones
Les scientifiques ont créé un réseau neuronal qui tentelutter contre les faux classificateurs. Le nouvel algorithme peut insérer un bruit spécial dans une image ou une vidéo, ce qui amène d'autres classificateurs à reconnaître le contenu comme original et non édité.
Nous parlons de deepfakes - c'est un contenu dans lequelune personne a délibérément changé son visage ou ses expressions faciales, par exemple en une star, un acteur ou un politicien célèbre, afin de compromettre une personne sur quelque chose qu'elle n'a jamais fait ou dit. Naturellement, après les deepfakes, des réseaux de neurones sont apparus qui reconnaissent si une vidéo ou une photo a été modifiée.
Au prochain stade de développement de ceconfrontation, des réseaux de neurones sont apparus qui trompent les algorithmes de reconnaissance des deepfakes. Le réseau de neurones trompeur peut potentiellement s'adapter à tous les classificateurs deepfake, y compris ceux encore inconnus. De ce fait, cet algorithme parvient à tromper les classificateurs dans 99% des cas, à condition que le résultat vidéo ne soit pas compressé. En cas de compression, le taux de réussite tombe à 60-90%.
Lire la suite:
L'IA a résolu un problème biologique que les scientifiques luttent depuis 50 ans
Une milliseconde au lieu de 30 000 milliards d'années pour une tâche : la Chine a introduit un nouvel ordinateur quantique
Les scientifiques recherchent des personnes qui ne peuvent pas être infectées par COVID-19. Sur la base de leurs données, ils fabriqueront un médicament