Neuronová síť zfalšovala řeč, aby oklamala algoritmy nebo jiné lidi
Vědci z University of Chicago
Výzkumníci rozehráli situaci, kdyútočník disponoval nahrávkou hlasu oběti, kterou lze nalézt ve veřejné doméně, stejně jako možnost živé komunikace a záznam řeči. Je třeba poznamenat, že během tréninku neuronová síť brala v úvahu nejen hlas, ale také zabarvení s intonací.
Dále autoři použili již vyškolenéneuronové sítě, které lze nalézt ve veřejné doméně. Vybrali dva: SV2TTS a AutoVC. K trénování modelů autoři použili nahrávky řeči 90 lidí ze tří veřejných datových sad: VCTK, LibriSpeech a SpeechAccent.
Výsledkem je, že výzkumníci v přibližně 50% případůúspěšně přihlášeni ke svému účtu pomocí hlasu syntetizovaného neuronovou sítí. Při rozhovoru s algoritmem také člověk nedokázal rozlišit skutečný hlas od falešného o 50 %.
Neuronová síť pomohla nalíčit se a oklamat systém rozpoznávání obličeje
Izraelští vědci z univerzity pojmenované poBen-Gurion vytvořil neuronovou síť, která klame systémy rozpoznávání obličejů pomocí make-upu. Určí ty rysy vzhledu, které zařízení nejčastěji čte, a poté vybere speciální make-up, který pomůže změnit obličej k nepoznání pro systém.
Během provozu se algoritmus nejprve zpracováváobrázky této osoby a poté obrázky dalších lidí stejného pohlaví. Dále se vytvoří tepelná mapa, která ukazuje hlavní oblasti, kde se nacházejí charakteristické rysy, které je třeba opravit. Poté systém vytvoří obrázek nového obličeje s make-upem a testuje jej proti typickému systému rozpoznávání obličeje, dokud na něj nepřestane reagovat.
Když je dosaženo optimálního make-upu, může být aplikován. Autoři poznamenávají, že přesnost systému rozpoznávání obličeje klesá ze 47,5 % na 1,2 %.
Neuronová síť vytvořila univerzální tvář pro oklamání identifikačního systému
Vědci z Izraele vytvořili neuronovou síťkterý generuje obrazy tváří schopné simulovat velké množství osobností pro rozpoznávací systémy. Podle vývojářů jejich algoritmus vytváří „univerzální“ tváře. Například devět takových obrázků může nahradit fotografie minimálně 40 % lidí z otevřené databáze.
Výsledkem bylo, že systém vygeneroval obličeje, které byly úspěšně identifikovány jako pozitivní ve 40–60 % případů. Použili k tomu celkem devět vygenerovaných fotografií.
Neuronová síť klame oči a vytváří dokonalou kamufláž
Udělali to vědci z Bristolské univerzityneuronová síť, která analyzuje prostředí a vybírá optimální barvu pro objekt. Poznamenali, že jejich algoritmus pomůže evolučním biologům porozumět tomu, jak se zbarvení různých živých druhů měnilo a na čem to záviselo.
Aby vytvořili svůj vlastní algoritmus, výzkumnícipoužíval sadu genetických algoritmů a hluboké učení. Skončili s miliony šablon s několika barvami a malým vstupem od lidských pozorovatelů.
Metoda byla testována na dobrovolnících, měli byse podívat na obrázky s předměty na různém pozadí a stisknout tlačítko, jakmile objekt uvidí. Algoritmus pokaždé zredukoval sadu barev a vzorů na ty, které byly nejobtížněji nebo nejsnáze vidět. Podle toho, zda chceme najít zbarvení pro kamufláž nebo být nápadní.
Neuronová síť, která podvádí jiné neuronové sítě
Vědci vytvořili neuronovou síť, která se snažíbojovat proti falešným klasifikátorům. Nový algoritmus dokáže do obrázku nebo videa vložit speciální šum, který způsobí, že ostatní klasifikátory rozpoznají obsah jako původní a neupravený.
Mluvíme o deepfakes - to je obsah, ve kterémčlověk záměrně změní svou tvář nebo mimiku, například na slavnou hvězdu, herce nebo politika, aby ho zdiskreditoval něčím, co nikdy neudělal nebo neřekl. Přirozeně se po deepfake objevily neuronové sítě, které rozpoznávají, zda bylo video nebo fotka upravena.
V další fázi vývoje tohotoPři konfrontaci se objevily neuronové sítě, které klamou algoritmy pro rozpoznání deepfakes. Klamavá neuronová síť se může potenciálně přizpůsobit jakýmkoli hluboce falešným klasifikátorům, včetně dosud neznámých. Výsledkem je, že tento algoritmus dokáže oklamat klasifikátory v 99% případů za předpokladu, že video výsledek nebude komprimován. V případě komprese klesá úspěšnost na 60-90%.
Přečtěte si více:
Umělá inteligence vyřešila biologický problém, se kterým vědci bojují již 50 let
Milisekunda místo 30 bilionů let na úkol: Čína představila nový kvantový počítač
Vědci hledají lidi, kteří se nemohou nakazit COVID-19. Na základě svých údajů vyrobí lék