Programmierer haben gezeigt, dass der Detektor durch das Einfügen von Eingabedaten, auchBeispiele
Denken Sie daran, dass bei Deepfakes oder Deepfakes das Gesicht eines beliebigen Subjekts in das einer anderen Person geändert werden kann, damit es glaubwürdig aussieht.Auf diese Weise können Sie realistisches Filmmaterial von Ereignissen erstellen, die nie wirklich stattgefunden haben.
Typische Deepfake-Detektoren konzentrieren sich auf Gesichterim Video: Sie verfolgen sie zuerst und senden dann ein separates Stück des Gesichts an ein neuronales Netzwerk, das feststellt, ob das Video echt oder falsch ist. Zum Beispiel wird das Blinzeln der Augen in tiefen Fälschungen schlecht reproduziert, sodass sich die Detektoren auf Augenbewegungen konzentrieren. Moderne Deepfake-Detektoren verwenden maschinelle Lernmodelle, um gefälschte Videos zu identifizieren.
Die Autoren der Arbeit testeten ihre Videoverarbeitung in zwei Szenarien: im ersten, in dem AngreiferVollständiger Zugriff auf das Detektormodell, die Methode der Gesichtsextraktion sowie die Architektur und die Parameter des Klassifikationsmodells; und eine weitere, in der AngreiferFragen Sie nur das Machine Learning-Modell ab, um die Wahrscheinlichkeit zu ermitteln, mit der der Framewerden als echt oder gefälscht eingestuft.
Im ersten Fall die Wahrscheinlichkeit, den Detektor zu täuschenbetrug 99% für unkomprimierte Videos und 84,96% für komprimierte Videos. Im zweiten Fall konnte der Detektor bei unkomprimiertem Video mit 86,43% und bei komprimiertem Video mit 78,33% schummeln. Dies ist die erste Arbeit, die erfolgreiche Angriffe auf moderne Deepfake-Detektoren demonstriert.
Die kalifornischen Programmierer weigerten sich, ihren Open-Source-Code zu veröffentlichen, damit er nicht für Fehlinformationen verwendet wird.
Weiter lesen:
Schauen Sie sich ein 8 Billionen Pixel großes Bild des Mars an
Für Flüge zum Mars wird ein Atomraketenmotor gebaut. Wie ist es gefährlich?
Abtreibung und Wissenschaft: Was wird mit den Kindern geschehen, die gebären werden?