Gefälschte Sprache des neuronalen Netzes, um Algorithmen oder andere Personen auszutricksen
Wissenschaftler der University of Chicago
Forscher haben eine Situation nachgespielt, in derder Angreifer hatte eine Aufzeichnung der Stimme des Opfers, die im öffentlichen Bereich zu finden ist, sowie die Möglichkeit, live zu kommunizieren und die Rede aufzuzeichnen. Es ist anzumerken, dass das neuronale Netz während des Trainings nicht nur die Stimme, sondern auch die Klangfarbe mit Intonation berücksichtigt hat.
Weiterhin nutzten die Autoren die bereits trainiertenneuronale Netze, die im öffentlichen Bereich zu finden sind. Sie wählten zwei aus: SV2TTS und AutoVC. Um die Modelle zu trainieren, verwendeten die Autoren Sprachaufzeichnungen von 90 Personen aus drei öffentlichen Datensätzen: VCTK, LibriSpeech und SpeechAccent.
Infolgedessen Forscher in etwa 50 % der FälleSie haben sich mithilfe einer von einem neuronalen Netzwerk synthetisierten Stimme erfolgreich bei Ihrem Konto angemeldet. Außerdem konnte eine Person beim Sprechen mit dem Algorithmus eine echte Stimme nicht zu 50 % von einer falschen unterscheiden.
Neuronale Netze halfen beim Schminken, um das Gesichtserkennungssystem auszutricksen
Israelische Forscher der nach ihr benannten UniversitätBen Gurion hat ein neuronales Netzwerk entwickelt, das Gesichtserkennungssysteme mithilfe von Make-up täuscht. Sie bestimmt die Merkmale des Aussehens, die das Gerät am häufigsten liest, und wählt dann ein spezielles Make-up aus, das dazu beiträgt, das Gesicht für das System unkenntlich zu machen.
Im Betrieb verarbeitet der Algorithmus zunächstBilder dieser Person und dann Bilder von anderen Personen des gleichen Geschlechts. Anschließend wird eine Heatmap erstellt, die die Hauptbereiche zeigt, in denen sich die zu korrigierenden Besonderheiten befinden. Danach erstellt das System ein Bild eines neuen Gesichts mit Make-up und testet es mit einem typischen Gesichtserkennungssystem, bis es nicht mehr darauf reagiert.
Wenn das optimale Make-up erreicht ist, kann es aufgetragen werden. Die Autoren stellen fest, dass die Genauigkeit des Gesichtserkennungssystems von 47,5 % auf 1,2 % sinkt.
Das neuronale Netz hat ein universelles Gesicht gemacht, um das Identifikationssystem zu täuschen
Forscher aus Israel haben ein neuronales Netzwerk geschaffendas Bilder von Gesichtern erzeugt, die eine große Anzahl von Persönlichkeiten für Erkennungssysteme simulieren können. Nach Angaben der Entwickler erstellt ihr Algorithmus „universelle“ Gesichter. Beispielsweise können neun solcher Bilder Fotos von mindestens 40 % der Personen aus der offenen Datenbank ersetzen.
Als Ergebnis generierte das System Gesichter, die in 40-60% der Fälle erfolgreich als positiv identifiziert wurden. Dafür nutzten sie insgesamt neun generierte Fotos.
Das neuronale Netz täuscht die Augen und schafft die perfekte Tarnung
Wissenschaftler der Universität Bristol haben es geschafftein neuronales Netzwerk, das die Umgebung analysiert und die optimale Farbe für ein Objekt auswählt. Sie stellten fest, dass ihr Algorithmus Evolutionsbiologen dabei helfen wird, zu verstehen, wie sich die Färbung verschiedener lebender Arten veränderte und wovon sie abhing.
Um ihren eigenen Algorithmus zu erstellen, haben Forscherverwendet eine Reihe von genetischen Algorithmen und Deep Learning. Am Ende erhielten sie Millionen von Vorlagen mit nur wenigen Farben und wenig Input von menschlichen Beobachtern.
Die Methode wurde an Freiwilligen getestet, das sollten siebestand darin, sich Bilder mit Objekten auf unterschiedlichen Hintergründen anzusehen und einen Knopf zu drücken, sobald sie das Objekt sahen. Jedes Mal reduzierte der Algorithmus die Farben und Muster auf diejenigen, die am schwierigsten oder am einfachsten zu erkennen waren. Je nachdem, ob wir Farbgebung zur Tarnung oder zur Auffälligkeit finden wollen.
Ein neuronales Netz, das andere neuronale Netze austrickst
Wissenschaftler haben ein neuronales Netzwerk geschaffen, das es versuchtKampf gegen gefälschte Klassifikatoren. Der neue Algorithmus kann spezielles Rauschen in ein Bild oder Video einfügen, das andere Klassifizierer dazu veranlasst, den Inhalt als original und unbearbeitet zu erkennen.
Die Rede ist von Deepfakes – das sind Inhalte, in deneneine Person wird absichtlich ihr Gesicht oder ihren Gesichtsausdruck verändert, zum Beispiel zu einem berühmten Star, Schauspieler oder Politiker, um die Person für etwas zu diskreditieren, das sie nie getan oder gesagt hat. Natürlich tauchten nach Deepfakes neuronale Netze auf, die erkennen, ob ein Video oder Foto bearbeitet wurde.
In der nächsten Entwicklungsphase diesesKonfrontation sind neuronale Netze aufgetaucht, die die Algorithmen zur Erkennung von Deepfakes täuschen. Das täuschende neuronale Netzwerk kann sich potenziell an alle Deepfake-Klassifikatoren anpassen, einschließlich der noch unbekannten. Dadurch gelingt es diesem Algorithmus in 99% der Fälle, Klassifikatoren zu täuschen, vorausgesetzt, das Videoergebnis wird nicht komprimiert. Bei Kompression sinkt die Erfolgsquote auf 60-90%.
Weiter lesen:
KI hat ein biologisches Problem gelöst, mit dem Wissenschaftler seit 50 Jahren kämpfen
Eine Millisekunde statt 30 Billionen Jahre für eine Aufgabe: China hat einen neuen Quantencomputer vorgestellt
Wissenschaftler suchen nach Menschen, die sich nicht mit COVID-19 infizieren können. Basierend auf ihren Daten werden sie ein Medikament herstellen