Programmētāji ir parādījuši, ka detektoru var maldināt, ievietojot ievades datus, ko sauc arī parPiemēri
Atgādiniet, ka dziļviltojumos vai dziļviltojumos jebkura subjekta seju var mainīt uz kāda cita, lai tā izskatās ticama.Tādā veidā jūs varat izveidot reālistiskus kadrus no notikumiem, kas nekad faktiski nav notikuši.
Tipiski deepfake detektori koncentrējas uz sejāmvideoklipā: viņi vispirms tos izseko un pēc tam atsevišķu sejas daļu nosūta neironu tīklam, kas nosaka, vai videoklips ir reāls vai viltots. Piemēram, acu mirgošana ir slikti atveidota dziļos viltojumos, tāpēc detektori koncentrējas uz acu kustībām. Mūsdienu Deepfake detektori paļaujas uz mašīnmācīšanās modeļiem, lai identificētu viltus videoklipus.
Darba autori pārbaudīja savu video apstrādi divos scenārijos: pirmajā, kur uzbrucējiem irpilnīga piekļuve detektora modelim, sejas ekstrakcijas metodei un klasifikācijas modeļa arhitektūrai un parametriem; un vēl vienu, kur uzbrucēji varVaicājiet tikai mašīnmācīšanās modelim, lai noskaidrotu varbūtību, ka kadrstiks klasificēts kā īsts vai viltots.
Pirmajā gadījumā varbūtība maldināt detektorubija 99% nesaspiestiem videoklipiem un 84,96% saspiestiem videoklipiem. Otrajā gadījumā detektors spēja pievilt 86,43% nesaspiestu un 78,33% saspiestu video. Šis ir pirmais darbs, kas demonstrē veiksmīgus uzbrukumus modernajiem viltus detektoriem.
Kalifornijas programmētāji atteicās izlaist savu atvērto pirmkodu, lai tas netiktu izmantots dezinformācijai.
Lasīt vairāk:
Paskaties 8 triljonu pikseļu Marsa attēlu
Lidojumiem uz Marsu tiek būvēts kodolraķešu dzinējs. Kā tas ir bīstami?
Aborts un zinātne: kas notiks ar bērniem, kas dzemdēs