Programmerare har visat att detektorn kan luras genom att infoga indata, även kallade exempel.
Låt oss påminna dig om att i deepfakes eller deepfakes ansiktetvilket ämne som helst kan ändras till någon annans så att det ser trovärdigt ut. På så sätt kan du skapa realistiska bilder av händelser som aldrig faktiskt hände.
Typiska deepfake-detektorer fokuserar på ansikteni videon: de spårar dem först och skickar sedan en separat ansiktsbit till ett neuralt nätverk som avgör om videon är riktig eller falsk. Exempelvis återges blinkande ögon dåligt i djupa förfalskningar, så detektorerna fokuserar på ögonrörelser. Moderna Deepfake-detektorer är beroende av maskininlärningsmodeller för att identifiera falska videor.
Författarna till verket testade sin videobearbetningi två scenarier: för det första där angripare har full tillgång till detektormodellen, ansiktsextraktionsmetoden och klassificeringsmodellens arkitektur och parametrar; och en annan där angripare bara kan fråga efter en maskininlärningsmodell för att ta reda på sannolikheten för att en ram klassificeras som verklig eller falsk.
I det första fallet är sannolikheten att lura detektornvar 99% för okomprimerade videor och 84,96% för komprimerade. I det andra fallet kunde detektorn fuska med 86,43% för okomprimerad och 78,33% för komprimerad video. Detta är det första arbetet som visar framgångsrika attacker mot moderna djupfalsdetektorer.
Kaliforniens programmerare vägrade att släppa sin öppna källkod så att den inte skulle användas för felinformation.
Läs mer:
Titta på en bild på 8 biljoner pixlar av Mars
En kärnkraftsmotor byggs för flygningar till Mars. Hur är det farligt?
Abort och vetenskap: vad kommer att hända med barnen som kommer att föda