Neurónová sieť sfalšovala reč, aby oklamala algoritmy alebo iných ľudí
Vedci z Chicagskej univerzity
Výskumníci simulovali situáciu, kedyÚtočník mal k dispozícii nahrávku hlasu obete, ktorá sa nachádza vo verejnej doméne, ako aj možnosť chatovať naživo a nahrávať reč. Je potrebné poznamenať, že neurónová sieť počas tréningu brala do úvahy nielen hlas, ale aj zafarbenie s intonáciou.
Ďalej autori použili už natrénovanéneurónové siete, ktoré možno nájsť vo verejnej doméne. Vybrali dve: SV2TTS a AutoVC. Na trénovanie modelov autori použili nahrávky reči 90 ľudí z troch verejných datasetov: VCTK, LibriSpeech a SpeechAccent.
Výsledkom je, že výskumníci v približne 50% prípadovúspešne sa prihlásil do svojho účtu pomocou hlasu syntetizovaného neurónovou sieťou. Pri rozhovore s algoritmom tiež človek nedokázal rozlíšiť skutočný hlas od falošného o 50%.
Neurónová sieť pomohla naniesť make-up na oklamanie systému rozpoznávania tváre
Izraelskí vedci z univerzity pomenovanej poBen-Gurion vytvoril neurónovú sieť, ktorá klame systémy rozpoznávania tváre pomocou make-upu. Určuje tie črty vzhľadu, ktoré zariadenie najčastejšie číta, a potom vyberie špeciálny make-up, ktorý pomôže zmeniť tvár na nerozoznanie systému.
Počas prevádzky sa algoritmus najskôr spracovávaobrázky tejto osoby a potom obrázky iných ľudí rovnakého pohlavia. Ďalej sa vytvorí tepelná mapa, ktorá zobrazuje hlavné oblasti, kde sa nachádzajú charakteristické znaky, ktoré je potrebné opraviť. Potom systém vytvorí obraz novej tváre s make-upom a testuje ho v porovnaní s typickým systémom rozpoznávania tváre, kým naň prestane reagovať.
Keď sa získa optimálna možnosť make-upu, môže sa použiť. Autori poznamenávajú, že presnosť systému rozpoznávania tváre je znížená zo 47,5 % na 1,2 %.
Neurónová sieť urobila univerzálnu tvár, aby oklamala identifikačný systém
Výskumníci z Izraela vytvorili neurónovú sieťktorý generuje obrazy tvárí schopných napodobniť veľké množstvo osobností pre rozpoznávacie systémy. Podľa vývojárov ich algoritmus vytvára „univerzálne“ tváre. Napríklad deväť takýchto obrázkov môže nahradiť fotografie aspoň 40 % ľudí z otvorenej databázy.
Výsledkom bolo, že systém vygeneroval tváre, ktoré boli úspešne identifikované ako pozitívne v 40 – 60 % prípadov. Použili na to iba deväť vygenerovaných fotografií.
Neurónová sieť klame zrak a vytvára dokonalú kamufláž
Urobili to vedci z Bristolskej univerzityneurónová sieť, ktorá analyzuje prostredie a vyberá optimálnu farbu pre objekt. Poznamenali, že ich algoritmus pomôže evolučným biológom pochopiť, ako sa zmenilo sfarbenie rôznych živých druhov, ako aj to, od čoho to záviselo.
Na vytvorenie vlastného algoritmu výskumnícipoužil súbor genetických algoritmov a hlboké učenie. Skončili s miliónmi vzorov len s niekoľkými farbami a malým množstvom údajov od ľudských pozorovateľov.
Metóda bola testovaná na dobrovoľníkoch, mali bybolo pozrieť sa na obrázky s predmetmi na rôznom pozadí a stlačiť tlačidlo hneď, ako daný predmet uvidia. Algoritmus zakaždým zredukoval množinu farieb a vzorov na tie, ktoré bolo najťažšie alebo najjednoduchšie vidieť. Podľa toho, či chceme nájsť sfarbenie na kamufláž alebo byť nápadní.
Neurónová sieť, ktorá klame ostatné neurónové siete
Vedci vytvorili neurónovú sieť, ktorá sa snažíboj proti falošným klasifikátorom. Nový algoritmus dokáže do obrázka alebo videa vložiť špeciálny šum, ktorý spôsobí, že ostatné klasifikátory rozpoznajú obsah ako pôvodný a neupravený.
Hovoríme o deepfakes - to je obsah, v ktoromosoba je špeciálne zmenená tvár alebo výrazy tváre, napríklad na slávnu hviezdu, herca alebo politika, s cieľom kompromitovať osobu v niečom, čo nikdy neurobil alebo nepovedal. Prirodzene, po deepfakes sa objavili neurónové siete, ktoré rozpoznajú, či je video alebo fotografia upravená.
V ďalšej fáze vývoja tohtokonfrontácii sa objavili neurónové siete, ktoré klamú algoritmy na rozpoznávanie deepfakes. Neurónová sieť podvodníka sa môže potenciálne prispôsobiť akýmkoľvek, vrátane zatiaľ neznámych, hlboko falošných klasifikátorov. Výsledkom je, že takýto algoritmus dokáže oklamať klasifikátory v 99% prípadov za predpokladu, že výsledok videa nie je komprimovaný. V prípade kompresie úspešnosť klesá na 60-90%.
Čítaj viac:
AI vyriešila biologický problém, s ktorým vedci bojujú už 50 rokov
Milisekunda namiesto 30 biliónov rokov na úlohu: Čína predstavila nový kvantový počítač
Vedci hľadajú ľudí, ktorí nemôžu byť infikovaní COVID-19. Na základe ich údajov vyrobia liek