Programmører har vist, at detektoren kan narre ved at indsætte inputdata, også kaldet eksempler.
Lad os minde dig om, at i deepfakes eller deepfakes ansigtetethvert emne kan ændres til en andens, så det ser troværdigt ud. På denne måde kan du skabe realistiske optagelser af begivenheder, der aldrig rent faktisk er sket.
Typiske dybfalsdetektorer fokuserer på ansigteri videoen: de sporer dem først og sender derefter et separat stykke ansigt til et neuralt netværk, der bestemmer, om videoen er ægte eller falsk. For eksempel gengives øjenblinking dårligt i dybe forfalskninger, så detektorer fokuserer på øjenbevægelser. Moderne Deepfake-detektorer er afhængige af maskinlæringsmodeller for at identificere falske videoer.
Forfatterne til værket testede deres videobehandlingi to scenarier: For det første, hvor angriberne har fuld adgang til detektormodellen, ansigtsudtrækningsmetoden og klassifikationsmodellens arkitektur og parametre; og en anden, hvor angribere kun kan forespørge på en maskinlæringsmodel for at finde ud af sandsynligheden for, at en ramme bliver klassificeret som ægte eller falsk.
I det første tilfælde sandsynligheden for at bedrage detektorenvar 99% for ukomprimerede videoer og 84,96% for komprimerede. I det andet tilfælde kunne detektoren snyde ved 86,43% for ukomprimeret og 78,33% for komprimeret video. Dette er det første arbejde, der demonstrerer vellykkede angreb på moderne deepfake-detektorer.
Programmørerne i Californien nægtede at frigive deres open source-kode, så den ikke blev brugt til misinformation.
Læs mere:
Se på et billede på 8 billioner pixel af Mars
En atomraketmotor bygges til flyvninger til Mars. Hvordan er det farligt?
Abort og videnskab: hvad vil der ske med de børn, der føder