Programátoři ukázali, že detektor lze oklamat vložením vstupních dat, nazývaných také příklady.
Připomeňme, že v deepfakes nebo deepfakes the facejakýkoli předmět lze změnit na cizí tak, aby vypadal věrohodně. Tímto způsobem můžete vytvořit realistické záběry událostí, které se ve skutečnosti nikdy nestaly.
Typické detektory hlubokých otřesů se zaměřují na tvářeve videu: nejdříve je sledují a poté posílají samostatnou část obličeje do neuronové sítě, která určuje, zda je video skutečné nebo falešné. Například mrknutí očí je špatně reprodukováno při padělání, takže se detektory zaměřují na pohyby očí. Moderní detektory Deepfake se při identifikaci falešných videí spoléhají na modely strojového učení.
Autoři práce vyzkoušeli jejich zpracování videave dvou scénářích: za prvé, kde útočníci mají plný přístup k modelu detektoru, metodě extrakce obličeje a architektuře a parametrům klasifikačního modelu; a další, kde se útočníci mohou dotazovat pouze na model strojového učení, aby zjistili pravděpodobnost, že snímek bude klasifikován jako skutečný nebo falešný.
V prvním případě je pravděpodobnost oklamání detektorubyla 99% u nekomprimovaných videí a 84,96% u komprimovaných videí. Ve druhém případě byl detektor schopen podvádět na 86,43% u nekomprimovaného a 78,33% u komprimovaného videa. Toto je první práce, která demonstruje úspěšné útoky na moderní detektory falešných zpráv.
Kalifornští programátoři odmítli vydat svůj otevřený zdrojový kód, aby nebyl použit pro dezinformace.
Přečtěte si více:
Podívejte se na obraz Marsu o 8 bilionech pixelů
Pro lety na Mars se staví jaderný raketový motor. Jak je to nebezpečné?
Potrat a věda: co se stane s dětmi, které porodí