Programiści pokazali, że detektor można oszukać poprzez wprowadzenie danych wejściowych, zwanych także przykładami.
Przypomnijmy, że w deepfakes lub deepfakes twarzkażdy temat można zmienić na cudzy, tak aby wyglądał wiarygodnie. W ten sposób możesz stworzyć realistyczny materiał filmowy przedstawiający wydarzenia, które nigdy nie miały miejsca.
Typowe detektory deepfake koncentrują się na twarzachna wideo: najpierw je śledzą, a następnie wysyłają oddzielny fragment twarzy do sieci neuronowej, która określa, czy wideo jest prawdziwe, czy fałszywe. Na przykład mruganie oczami jest słabo odtwarzane w deepfake'ach, więc detektory koncentrują się na ruchach oczu. Nowoczesne detektory Deepfake wykorzystują modele uczenia maszynowego do identyfikacji fałszywych filmów.
Autorzy pracy przetestowali swoją obróbkę wideow dwóch scenariuszach: pierwszy, w którym atakujący mają pełny dostęp do modelu detektora, metody ekstrakcji twarzy oraz architektury i parametrów modelu klasyfikacyjnego; oraz inny, w którym osoby atakujące mogą jedynie wysyłać zapytania do modelu uczenia maszynowego, aby sprawdzić prawdopodobieństwo sklasyfikowania ramki jako prawdziwej lub fałszywej.
W pierwszym przypadku prawdopodobieństwo oszukania detektorabyło 99% dla nieskompresowanych plików wideo i 84,96% dla skompresowanych. W drugim przypadku detektor był w stanie oszukiwać przy 86,43% dla nieskompresowanego wideo i 78,33% dla skompresowanego wideo. To pierwsza praca mająca na celu zademonstrowanie udanych ataków na nowoczesne wykrywacze deepfake'ów.
Programiści z Kalifornii odmówili udostępnienia swojego otwartego kodu źródłowego, aby nie został wykorzystany do dezinformacji.
Czytaj więcej:
Spójrz na 8 bilionów pikseli obrazu Marsa
Budowany jest atomowy silnik rakietowy do lotów na Marsa. Jak to jest niebezpieczne?
Aborcja i nauka: co stanie się z dziećmi, które będą rodzić