Programatorii au arătat că detectorul poate fi înșelat prin introducerea datelor de intrare, numite șiExemple
Amintiți-vă că în deepfakes sau deepfakes, fața oricărui subiect poate fi schimbată cu a altcuiva, astfel încât să pară credibilă.În acest fel, puteți crea imagini realiste ale evenimentelor care nu s-au întâmplat niciodată.
Detectoarele tipice deepfake se concentrează pe fețeîn videoclip: le urmăresc mai întâi și apoi trimit o bucată separată a feței către o rețea neuronală care determină dacă videoclipul este real sau fals. De exemplu, clipirea ochilor este slab reprodusă în deepfakes, astfel încât detectoarele se concentrează asupra mișcărilor ochilor. Detectoarele moderne Deepfake se bazează pe modele de învățare automată pentru a identifica videoclipuri false.
Autorii lucrării și-au testat procesarea video în două scenarii: primul, în care atacatorii auacces complet la modelul detectorului, la metoda de extragere a feței, precum și la arhitectura și parametrii modelului de clasificare; și altul în care atacatorii potInterogați modelul de învățare programată numai pentru a afla probabilitatea ca cadrulvor fi clasificate ca reale sau false.
În primul caz, probabilitatea de a înșela detectorula fost de 99% pentru videoclipurile necomprimate și de 84,96% pentru cele comprimate. În al doilea caz, detectorul a reușit să trișeze la 86,43% pentru videoclipurile necomprimate și 78,33% pentru videoclipurile comprimate. Aceasta este prima lucrare care demonstrează atacuri de succes asupra detectoarelor moderne deepfake.
Programatorii din California au refuzat să lanseze codul lor open source, astfel încât să nu fie folosit pentru dezinformare.
Citeste mai mult:
Uită-te la o imagine de 8 trilioane de pixeli a lui Marte
Un motor rachetă nucleară este construit pentru zborurile către Marte. Cum este periculos?
Avortul și știința: ce se va întâmpla cu copiii care vor naște