I programmatori hanno dimostrato che il rivelatore può essere ingannato inserendo dati di input, chiamati ancheEsempi
Ricorda che nei deepfake o deepfake, il volto di qualsiasi soggetto può essere cambiato in quello di qualcun altro in modo che appaia credibile.In questo modo, è possibile creare filmati realistici di eventi che non sono mai realmente accaduti.
I tipici rilevatori di deepfake si concentrano sui voltinel video: prima li tracciano, quindi inviano un pezzo separato del viso a una rete neurale che determina se il video è reale o falso. Ad esempio, l'ammiccamento degli occhi viene riprodotto male nei deepfake, quindi i rilevatori si concentrano sui movimenti degli occhi. I moderni rilevatori Deepfake si basano su modelli di apprendimento automatico per identificare i video falsi.
Gli autori del lavoro hanno testato la loro elaborazione video in due scenari: il primo, in cui gli aggressori hannoaccesso completo al modello del rivelatore, al metodo di estrazione del volto, all'architettura e ai parametri del modello di classificazione; e un altro in cui gli aggressori possonoEseguire una query solo sul modello di Machine Learning per scoprire la probabilità che il framesaranno classificati come veri o falsi.
Nel primo caso, la probabilità di ingannare il rivelatoreera del 99% per i video non compressi e dell'84,96% per i video compressi. Nel secondo caso, il rilevatore è stato in grado di imbrogliare all'86,43% per i video non compressi e al 78,33% per i video compressi. Questo è il primo lavoro che dimostra il successo degli attacchi ai moderni rilevatori di deepfake.
I programmatori della California hanno rifiutato di rilasciare il loro codice open source in modo che non venisse utilizzato per disinformazione.
Leggi di più:
Guarda un'immagine di 8 trilioni di pixel di Marte
È in costruzione un motore a razzo nucleare per i voli su Marte. Come è pericoloso?
Aborto e scienza: cosa succederà ai bambini che partoriranno