Programátori ukázali, že detektor sa dá oklamať vložením vstupných údajov, nazývaných aj príklady.
Pripomeňme, že v deepfakes alebo deepfakes tvárakýkoľvek predmet sa dá zmeniť na niekoho iného tak, aby to vyzeralo vierohodne. Týmto spôsobom môžete vytvárať realistické zábery udalostí, ktoré sa v skutočnosti nikdy nestali.
Typické hlboko falošné detektory sa zameriavajú na tvárevo videu: najskôr ich sledujú a potom pošlú samostatný kúsok tváre do neurónovej siete, ktorá určí, či je video skutočné alebo falošné. Napríklad žmurkanie očí je pri hlbokých falzifikátoch zle reprodukované, takže sa detektory zameriavajú na pohyby očí. Moderné detektory Deepfake sa pri identifikácii falošných videí spoliehajú na modely strojového učenia.
Autori práce si vyskúšali ich spracovanie videav dvoch scenároch: po prvé, kde útočníci majú plný prístup k modelu detektora, metóde extrakcie tváre a architektúre a parametrom klasifikačného modelu; a ďalší, kde útočníci môžu dotazovať iba model strojového učenia, aby zistili pravdepodobnosť, že rám bude klasifikovaný ako skutočný alebo falošný.
V prvom prípade pravdepodobnosť oklamania detektorabola 99% pre nekomprimované videá a 84,96% pre komprimované videá. V druhom prípade bol detektor schopný podvádzať pri 86,43% pri nekomprimovanom a 78,33% pri komprimovanom videu. Toto je prvá práca na demonštráciu úspešných útokov na moderné detektory falošných detektorov.
Kalifornskí programátori odmietli vydať svoj otvorený zdrojový kód, aby nebol použitý na dezinformácie.
Čítaj viac:
Pozerajte sa na 8 biliónov pixelov z Marsu
Pre lety na Mars sa stavia jadrový raketový motor. Ako je to nebezpečné?
Potraty a veda: čo sa stane s deťmi, ktoré budú rodiť