Neuralna mreža lažirala je govor kako bi prevarila algoritme ili druge ljude
Znanstvenici sa Sveučilišta u Chicagu
Istraživači su odigrali situaciju u kojojnapadač je imao snimku glasa žrtve, koja se može pronaći u javnosti, kao i mogućnost komunikacije uživo i snimanja govora. Primjećuje se da je tijekom treninga neuronska mreža uzela u obzir ne samo glas, već i tembar s intonacijom.
Nadalje, autori su koristili već obučenineuronske mreže koje se mogu naći u javnoj domeni. Odabrali su dva: SV2TTS i AutoVC. Za obuku modela, autori su koristili snimke govora 90 ljudi iz tri javna skupa podataka: VCTK, LibriSpeech i SpeechAccent.
Kao rezultat toga, istraživači su se uspješno prijavili na račun u oko 50% slučajevaTakođer, u razgovoru s algoritmom, osoba nije mogla razlikovati pravi glas od50% lažno.
Neuronska mreža pomogla je u šminkanju kako bi se prevario sustav prepoznavanja lica
Izraelski istraživači sa Sveučilišta nazBen-Gurion je napravio neuronsku mrežu koja vara sustave za prepoznavanje lica pomoću šminke. Ona određuje one značajke izgleda koje uređaj najčešće čita, a zatim odabire posebnu šminku koja će pomoći da lice postane neprepoznatljivo za sustav.
Tijekom rada algoritam prvo obrađujeslike te osobe, a zatim slike drugih osoba istog spola. Zatim se stvara toplinska karta koja prikazuje glavna područja na kojima se nalaze razlikovna obilježja koja je potrebno ispraviti. Nakon toga, sustav stvara sliku novog lica sa šminkom i testira je u usporedbi s tipičnim sustavom za prepoznavanje lica dok ne prestane reagirati na nju.
Kada se dobije optimalna šminka, može se nanositi. Autori primjećuju da se točnost sustava za prepoznavanje lica smanjuje sa 47,5% na 1,2%.
Neuronska mreža je napravila univerzalno lice da zavara identifikacijski sustav
Istraživači iz Izraela stvorili su neuronsku mrežukoji generira slike lica sposobnih za simulaciju velikog broja osobnosti za sustave prepoznavanja. Prema programerima, njihov algoritam čini "univerzalna" lica. Primjerice, devet takvih slika može zamijeniti fotografije najmanje 40% ljudi iz otvorene baze podataka.
Kao rezultat toga, sustav je generirao lica koja su uspješno identificirana kao pozitivna u 40-60% slučajeva. Za to su koristili ukupno devet generiranih fotografija.
Neuronska mreža vara oči, stvarajući savršenu kamuflažu
Znanstvenici sa Sveučilišta u Bristolu napravili suneuronska mreža koja analizira okolinu i odabire optimalnu boju za objekt. Napomenuli su da će njihov algoritam pomoći evolucijskim biolozima da razumiju kako se promijenila boja različitih živih vrsta, kao i o čemu je ovisila.
Da bi stvorili vlastiti algoritam, istraživačikoristio skup genetskih algoritama i duboko učenje. Završili su s milijunima predložaka sa samo nekoliko boja i malo doprinosa ljudskih promatrača.
Metoda je testirana na dobrovoljcima, trebali bitrebali su gledati slike s predmetima na različitim pozadinama i pritisnuti gumb čim ugledaju predmet. Svaki put je algoritam smanjio skup boja i uzoraka na one koje je bilo najteže ili najlakše vidjeti. Ovisno o tome želimo li pronaći boju za kamuflažu ili da budemo uočljivi.
Neuronska mreža koja vara druge neuronske mreže
Znanstvenici su stvorili neuronsku mrežu koja pokušavaborba protiv lažnih klasifikatora. Novi algoritam može umetnuti poseban šum u sliku ili video koji uzrokuje da drugi klasifikatori prepoznaju sadržaj kao originalan i neobrađen.
Govorimo o deepfakes - ovo je sadržaj u kojemosoba je namjerno promijenila lice ili izraz lica, na primjer, u slavnu zvijezdu, glumca ili političara, kako bi kompromitirala osobu u nečemu što nikada nije učinila ili rekla. Naravno, nakon deepfakesa pojavile su se neuronske mreže koje prepoznaju je li video ili fotografija montirana.
U sljedećoj fazi razvoja ovogkonfrontacije, pojavile su se neuronske mreže koje varaju algoritme za prepoznavanje deepfakesa. Zavaravajuća neuronska mreža potencijalno se može prilagoditi svim deepfake klasifikatorima, uključujući one koji su još nepoznati. Kao rezultat toga, ovaj algoritam uspijeva prevariti klasifikatore u 99% slučajeva, pod uvjetom da video rezultat neće biti komprimiran. U slučaju kompresije, uspješnost pada na 60-90%.
Čitaj više:
AI je riješio biološki problem s kojim se znanstvenici bore već 50 godina
Milisekunda umjesto 30 trilijuna godina za zadatak: Kina predstavila novo kvantno računalo
Znanstvenici traže osobe koje se ne mogu zaraziti COVID-19. Na temelju njihovih podataka napravit će lijek