Programuotojai įrodė, kad detektorių galima apgauti įvedus įvesties duomenis, dar vadinamus pavyzdžiais.
Priminsime, kad giliuose padirbinėjimuose arba giliuose padirbinėjimuose veidasbet kuri tema gali būti pakeista į kažkieno kitą, kad ji atrodytų patikima. Tokiu būdu galite sukurti tikroviškus įvykių, kurie iš tikrųjų neįvyko, kadrus.
Tipiški „deepfake“ detektoriai orientuoti į veidusvaizdo įraše: jie pirmiausia juos stebi, o tada atskirą veido gabalėlį siunčia į neuroninį tinklą, kuris nustato, ar vaizdo įrašas tikras, ar netikras. Pavyzdžiui, akių mirksėjimas blogai atkuriamas giliuose klastotėse, todėl detektoriai orientuojasi į akių judesius. Šiuolaikiniai „Deepfake“ detektoriai, norėdami nustatyti padirbtus vaizdo įrašus, remiasi mašininio mokymosi modeliais.
Darbo autoriai išbandė savo vaizdo apdorojimądviem scenarijais: pirma, kai užpuolikai turi visišką prieigą prie detektoriaus modelio, veido ištraukimo metodo ir klasifikavimo modelio architektūros bei parametrų; ir kitas, kai užpuolikai gali pateikti užklausą tik mašininio mokymosi modeliui, kad išsiaiškintų tikimybę, kad kadras bus klasifikuojamas kaip tikras ar netikras.
Pirmuoju atveju tikimybė apgauti detektoriųbuvo 99% nesuspaustų vaizdo įrašų ir 84,96% suglaudintų vaizdo įrašų. Antruoju atveju detektorius sugebėjo apgauti 86,43% nesuspausto ir 78,33% suglaudinto vaizdo įrašą. Tai pirmas darbas, pademonstravęs sėkmingas atakas prieš šiuolaikinius „deepfake“ detektorius.
Kalifornijos programuotojai atsisakė išleisti savo atvirojo kodo kodą, kad jis nebūtų naudojamas klaidingai informacijai.
Skaityti daugiau:
Pažvelkite į 8 trilijonų pikselių Marso vaizdą
Skrydžiams į Marsą statomas branduolinis raketinis variklis. Kuo tai pavojinga?
Abortas ir mokslas: kas nutiks gimdantiems vaikams