Programmeurs hebben laten zien dat de detector voor de gek kan worden gehouden door invoergegevens in te voeren, ook wel voorbeelden genoemd.
Laten we u eraan herinneren dat deepfakes of deepfakes het gezicht zijnelk onderwerp kan in dat van iemand anders worden veranderd, zodat het er geloofwaardig uitziet. Zo maak je realistische beelden van gebeurtenissen die nooit echt hebben plaatsgevonden.
Typische vervalsingsdetectoren richten zich op gezichtenin de video: ze volgen ze eerst en sturen vervolgens een apart deel van het gezicht naar een neuraal netwerk dat bepaalt of de video echt of nep is. Knipperende ogen worden bijvoorbeeld slecht gereproduceerd bij deepfakes, dus richten de detectoren zich op oogbewegingen. Moderne Deepfake-detectoren vertrouwen op machine learning-modellen om nepvideo's te identificeren.
De auteurs van het werk testten hun videoverwerkingin twee scenario's: ten eerste, waarbij aanvallers volledige toegang hebben tot het detectormodel, de gezichtsextractiemethode en de architectuur en parameters van het classificatiemodel; en een andere waarbij aanvallers alleen een machine learning-model kunnen bevragen om erachter te komen hoe waarschijnlijk het is dat een frame als echt of nep wordt geclassificeerd.
In het eerste geval is de kans om de detector te misleidenwas 99% voor niet-gecomprimeerde video's en 84,96% voor gecomprimeerde video's. In het tweede geval kon de detector vals spelen met 86,43% voor niet-gecomprimeerde video en 78,33% voor gecomprimeerde video. Dit is het eerste werk dat succesvolle aanvallen op moderne vervalsingsdetectoren aantoont.
De Californische programmeurs weigerden hun open source-code vrij te geven, zodat deze niet voor verkeerde informatie zou worden gebruikt.
Lees verder:
Kijk naar een afbeelding van 8 biljoen pixels van Mars
Er wordt een nucleaire raketmotor gebouwd voor vluchten naar Mars. Hoe is het gevaarlijk?
Abortus en wetenschap: wat gebeurt er met de kinderen die zullen bevallen