Програмистите са показали, че детекторът може да бъде измамен чрез вмъкване на входни данни, наричани още примери.
Нека ви напомним, че в deepfakes или deepfakes лицетовсеки обект може да бъде променен в някой друг, така че да изглежда правдоподобно. По този начин можете да създадете реалистични кадри от събития, които никога не са се случвали.
Типичните дълбокофакс детектори се фокусират върху лицавъв видеото: първо ги проследяват и след това изпращат отделно парче от лицето към невронна мрежа, която определя дали видеоклипът е реален или фалшив. Например, мигането на очите се възпроизвежда лошо при дълбоките фалшификати, така че детекторите се фокусират върху движенията на очите. Съвременните Deepfake детектори разчитат на модели за машинно обучение за идентифициране на фалшиви видеоклипове.
Авторите на произведението тестваха своята видео обработкав два сценария: първи, където нападателите имат пълен достъп до модела на детектора, метода за извличане на лица и архитектурата и параметрите на класификационния модел; и друг, при който нападателите могат само да отправят заявки към модел на машинно обучение, за да открият вероятността рамката да бъде класифицирана като истинска или фалшива.
В първия случай, вероятността за измама на детекторае 99% за некомпресирани видеоклипове и 84,96% за компресирани. Във втория случай детекторът успя да измами на 86,43% за некомпресирано и 78,33% за компресирано видео. Това е първата работа, която демонстрира успешни атаки срещу съвременни дълбоководни детектори.
Калифорнийските програмисти отказаха да пуснат своя код с отворен код, за да не се използва за дезинформация.
Прочетете още:
Погледнете изображение на Марс с 8 трилиона пиксела
Изгражда се ядрен ракетен двигател за полети до Марс. Как е опасно?
Аборт и наука: какво ще се случи с децата, които ще раждат