Нейросеть підробила промову, щоб обдурити алгоритми чи інших людей
Вчені з університету Чикаго
Дослідники розіграли ситуацію, коли узловмисника був запис голосу жертви, яку можна знайти у публічному доступі, а також можливість наживо поспілкуватися та записати мову. Наголошується, що нейромережа під час навчання враховувала не лише голос, а ще й тембр із інтонацією.
Далі автори використовували вже навченінейромережі, які можна знайти у публічному доступі. Вони обрали дві: SV2TTS та AutoVC. Для навчання моделей автори використовували записи промови 90 людей із трьох публічних датасетів: VCTK, LibriSpeech та SpeechAccent.
В результаті дослідники приблизно в 50% випадкууспішно входили в аккаунт по синтезованому нейромережею голосу. Також при розмові з алгоритмом людина не могла відрізнити справжній голос від підробленого в 50%.
Нейросеть допомогла завдати гриму, щоб обдурити систему розпізнавання облич
Ізраїльські дослідники з університету іменіБен-Гуріона зробили нейромережу, яка обманює системи розпізнавання облич за допомогою гриму. Вона визначає ті особливості зовнішності, які найчастіше зчитує пристрій, а далі підбирає спеціальний макіяж, який допоможе зробити особу невпізнанною для системи.
Під час роботи алгоритм спочатку обробляєфотографії цієї людини, а потім зображення інших людей тієї ж статі. Далі створюється теплова карта, де показані основні області, де є відмінні риси, які треба коригувати. Після цього система створює зображення нової особи з макіяжем і перевіряє його на типовій системі розпізнавання осіб, поки вона не перестане реагувати на нього.
Коли оптимальний варіант макіяжу отримано, його можна наносити. Автори зазначають, що точність системи розпізнавання осіб знижується з 47,5 до 1,2%.
Нейросеть зробила універсальну особу, щоб обдурити систему ідентифікації
Дослідники з Ізраїлю зробили нейромережу,яка генерує зображення облич, здатних імітувати велику кількість особистостей для систем розпізнавання. За словами розробників, їхній алгоритм робить «універсальні» особи. Наприклад, дев'ять таких зображень можуть замінити фото щонайменше 40% людей з відкритої бази.
В результаті система генерувала особи, які успішно ідентифікували як позитивні у 40–60% випадків. Вони використовували для цього дев'ять згенерованих фотографій.
Нейросеть обманює зір, створюючи ідеальний камуфляж
Вчені з Брістольського університету зробилинейромережа, яка аналізує довкілля та вибирає для об'єкта оптимальне забарвлення. Вони зазначили, що їхній алгоритм допоможе еволюційним біологам зрозуміти, як змінювалося забарвлення різних живих видів, а також від чого воно залежало.
Щоб створити свій алгоритм, дослідникивикористовували набір генетичних алгоритмів та глибокого навчання. Вони отримали мільйони шаблонів всього з кількома кольорами і невеликим обсягом даних, отриманих від людей-спостерігачів.
Метод протестували на добровольцях, вони маютьбули дивитися на зображення з предметами на різних фонах і натискати кнопку, як тільки вони побачать об'єкт. Щоразу алгоритм все зменшував набір кольорів і візерунків до тих, які найважче або найлегше побачити. Залежно від того, чи хочемо знайти забарвлення для маскування або для того, щоб бути помітним.
Нейросеть, яка обманює інші нейромережі
Вчені створили нейромережу, яка намагаєтьсяборотися із класифікаторами фейків. Новий алгоритм може вставити у зображення або відео спеціальний шум, який змушує інші класифікатори розпізнавати контент як оригінальний та не відредагований.
Йдеться про дипфейки - це контент, в якомулюдині спеціально змінюють обличчя або міміку, наприклад, на відому зірку, актора чи політика, щоб скомпрометувати людину на тому, чого вона ніколи не робила чи не говорила. Закономірно після дипфейків з'явилися нейромережі, які розпізнають, чи було відредаговано відео або фото.
На наступному ступені розвитку цьогопротистояння з'явилися нейромережі, які обманюють алгоритми розпізнавання дипфейків. Нейросеть-ошуканець може потенційно пристосуватися до будь-яких, зокрема ще невідомих, класифікаторів дипфейків. В результаті такого алгоритму вдається обдурити класифікатори в 99% випадків за умови, що відео-результат не стискатиме. У разі стиснення відсоток успішності знижується до 60-90%.
Читати далі:
ІІ вирішив біологічне завдання, над яким вчені билися 50 років.
Міллісекунда замість 30 трлн років на завдання: Китай представив новий квантовий комп'ютер
Вчені шукають людей, які можуть заразитися COVID-19. На основі їх даних зроблять ліки