Programeri su pokazali da se detektor može prevariti umetanjem ulaznih podataka, koji se nazivaju i primjeri.
Podsjetimo, kod deepfakea ili deepfakea licebilo koji subjekt se može promijeniti u tuđi tako da izgleda uvjerljivo. Na taj način možete stvoriti realistične snimke događaja koji se zapravo nikada nisu dogodili.
Tipični deepfake detektori fokusiraju se na licau videozapisu: prvo ih prate, a zatim šalju zaseban komad lica na neuronsku mrežu koja određuje je li video stvaran ili lažan. Na primjer, treptanje oka slabo se reproducira u dubokim lažnim faksovima, pa se detektori usredotočuju na pokrete očiju. Suvremeni Deepfake detektori oslanjaju se na modele strojnog učenja za prepoznavanje lažnih videozapisa.
Autori rada testirali su svoju video obraduu dva scenarija: prvi, gdje napadači imaju puni pristup modelu detektora, metodi izdvajanja lica te arhitekturi i parametrima modela klasifikacije; i drugi gdje napadači mogu samo postaviti upit modelu strojnog učenja kako bi otkrili vjerojatnost da će okvir biti klasificiran kao pravi ili lažni.
U prvom slučaju, vjerojatnost zavaravanja detektorabila je 99% za nekomprimirane videozapise, a 84,96% za komprimirane. U drugom slučaju, detektor je mogao varati na 86,43% za nekomprimirani i 78,33% za komprimirani video. Ovo je prvo djelo koje je demonstriralo uspješne napade na moderne deepfake detektore.
Kalifornijski programeri odbili su objaviti svoj otvoreni izvorni kod kako se ne bi koristio za pogrešne informacije.
Čitaj više:
Pogledajte sliku Marsa od 8 bilijuna piksela
Za letove do Marsa gradi se nuklearni raketni motor. Kako je opasno?
Pobačaj i znanost: što će se dogoditi s djecom koja će roditi