Невронна мрежа фалшива реч, за да подмами алгоритми или други хора
Учени от Чикагския университет
Изследователите разиграха ситуация, в коятонападателят е имал запис на гласа на жертвата, който може да бъде намерен в публичното пространство, както и възможност за комуникация на живо и запис на речта. Отбелязва се, че по време на обучението невронната мрежа е взела предвид не само гласа, но и тембъра с интонацията.
Освен това авторите са използвали вече обученитеневронни мрежи, които могат да бъдат намерени в публичното пространство. Те избраха две: SV2TTS и AutoVC. За да обучат моделите, авторите са използвали записи на реч на 90 души от три публични набора от данни: VCTK, LibriSpeech и SpeechAccent.
В резултат на това изследователите в приблизително 50% от случаитеуспешно влезете в акаунта си с помощта на глас, синтезиран от невронна мрежа. Освен това, когато говори с алгоритъма, човек не можеше да различи истински глас от фалшив с 50%.
Невронната мрежа помогна за нанасянето на грим за измама на системата за разпознаване на лица
Израелски изследователи от университета на името наБен-Гурион направи невронна мрежа, която мами системите за разпознаване на лица с помощта на грим. Тя определя тези характеристики на външния вид, които устройството най-често чете, и след това избира специален грим, който ще помогне на лицето да стане неразпознаваемо за системата.
По време на работа алгоритъмът първо обработваснимки на този човек и след това снимки на други хора от същия пол. След това се създава топлинна карта, която показва основните области, където се намират отличителните характеристики, които трябва да бъдат коригирани. След това системата създава изображение на ново лице с грим и го тества спрямо типична система за лицево разпознаване, докато спре да реагира на него.
Когато се получи оптималният грим, може да се приложи. Авторите отбелязват, че точността на системата за разпознаване на лица намалява от 47,5% на 1,2%.
Невронната мрежа е направила универсално лице, за да заблуди системата за идентификация
Изследователи от Израел създадоха невронна мрежакойто генерира изображения на лица, способни да симулират голям брой личности за системи за разпознаване. Според разработчиците техният алгоритъм прави „универсални“ лица. Например девет такива изображения могат да заменят снимки на поне 40% от хората от отворената база данни.
В резултат на това системата генерира лица, които успешно са идентифицирани като положителни в 40-60% от случаите. Те са използвали само девет генерирани снимки за това.
Невронната мрежа мами очите, създавайки перфектния камуфлаж
Учени от университета в Бристол направиханевронна мрежа, която анализира околната среда и избира оптималния цвят за даден обект. Те отбелязаха, че техният алгоритъм ще помогне на еволюционните биолози да разберат как се е променило оцветяването на различните живи видове, както и от какво зависи.
За да създадат свой собствен алгоритъм, изследователитеизползва набор от генетични алгоритми и дълбоко обучение. Те се оказаха с милиони шаблони само с няколко цвята и малко принос от човешки наблюдатели.
Методът е тестван върху доброволци, трябватрябваше да гледат снимки с предмети на различен фон и да натискат бутон веднага щом видят обекта. Всеки път алгоритъмът намалява набора от цветове и модели до тези, които са най-трудни или най-лесни за виждане. В зависимост от това дали искаме да намерим оцветяване за камуфлаж или за да бъдем забележими.
Невронна мрежа, която мами други невронни мрежи
Учените създадоха невронна мрежа, която се опитваборба с фалшивите класификатори. Новият алгоритъм може да вмъкне специален шум в изображение или видео, което кара други класификатори да разпознаят съдържанието като оригинално и нередактирано.
Говорим за deepfakes - това е съдържание в коеточовек умишлено сменя лицето или израженията на лицето си, например на известна звезда, актьор или политик, за да компрометира човек с нещо, което той никога не е правил или казвал. Естествено, след deepfakes се появиха невронни мрежи, които разпознават дали видео или снимка е редактиран.
На следващия етап от развитието на товаконфронтация, се появиха невронни мрежи, които заблуждават алгоритмите за разпознаване на дълбоки фалшификати. Подвеждащата невронна мрежа може потенциално да се адаптира към всякакви дълбоки фалшиви класификатори, включително тези, които все още не са известни. В резултат на това този алгоритъм успява да заблуди класификаторите в 99% от случаите, при условие че видео резултатът няма да бъде компресиран. В случай на компресия, успеваемостта пада до 60-90%.
Прочетете още:
AI реши биологичен проблем, с който учените се борят от 50 години
Милисекунда вместо 30 трилиона години за задача: Китай представи нов квантов компютър
Учените търсят хора, които не могат да бъдат заразени с COVID-19. Въз основа на техните данни те ще направят лекарство