Neuraaliverkko väärensi puhetta algoritmien tai muiden ihmisten pettämiseksi
Chicagon yliopiston tutkijat
Tutkijat simuloivat tilannetta, jossaHyökkääjällä oli tallenne uhrin äänestä, joka löytyy julkisesti, sekä mahdollisuus keskustella livenä ja äänittää puhetta. On huomattava, että hermoverkko koulutuksen aikana otti huomioon äänen lisäksi myös sointiäänen intonaatiolla.
Seuraavaksi kirjoittajat käyttivät jo koulutettujaneuroverkot, jotka löytyvät julkisesti. He valitsivat kaksi: SV2TTS ja AutoVC. Mallien kouluttamiseen kirjoittajat käyttivät 90 henkilön puhetallenteita kolmesta julkisesta tietojoukosta: VCTK, LibriSpeech ja SpeechAccent.
Tämän seurauksena tutkijat kirjautuivat tilille onnistuneesti noin 50 prosentissa tapauksistaAlgoritmin kanssa puhuessaan henkilö ei myöskään voinut erottaa todellista ääntä a50% väärennös.
Hermoverkko auttoi levittämään meikkiä kasvojentunnistusjärjestelmän huijaamiseksi
Israelilaiset tutkijat Ben-Gurionin yliopistosta ovat luoneet hermoverkon, joka pettääSe havaitsee ulkonäön piirteet, joita se useimmiten lukeelaite ja valitsee sitten erityisen meikin, joka auttaa tekemään kasvot tunnistamattomiksi järjestelmälle.
Kun se toimii, algoritmi käsittelee ensin valokuvia kyseisestä henkilöstä ja sitten kuvia muista samaa sukupuolta olevista ihmisistä.Seuraavaksi luodaan lämpökartta, joka näyttää tärkeimmät alueet, joilla on eroja, jotka on korjattava.Sen jälkeen järjestelmä luo kuvan uusista kasvoista meikillä ja tarkistuksillaSe on tyypillisessä kasvojentunnistusjärjestelmässä, kunnes se pysähtyyreagoi siihen.
Kun optimaalinen meikkivaihtoehto on saatu, sitä voidaan käyttää. Kirjoittajat huomauttavat, että kasvojentunnistusjärjestelmän tarkkuus on laskenut 47,5 prosentista 1,2 prosenttiin.
Neuraaliverkko teki yleismaailmallisen kasvon tunnistusjärjestelmän pettämiseksi
Israelilaiset tutkijat ovat tehneet hermoverkon, joka tuottaa kuvia kasvoista, jotka pystyvät jäljittelemään suurta määrää persoonallisuuksia tunnistusjärjestelmiä varten.Kehittäjien mukaan heidän algoritminsa tekee "universaaleista" kasvoista.Korvaa vähintään 40%: n valokuva avoimesta tietokannasta.
Tämän seurauksena järjestelmä loi kasvot, jotka tunnistettiin onnistuneesti positiivisiksi 40–60 prosentissa tapauksista. He käyttivät tähän vain yhdeksää luotua valokuvaa.
Hermoverkko pettää silmää ja luo täydellisen naamioinnin
Bristolin yliopiston tutkijat ovat luoneet hermoverkon, joka analysoi ympäristöä ja valitseeHe totesivat, että heidän algoritminsa auttaaevoluutiobiologit ymmärtämään, miten eri elävien lajien väritys on muuttunut, sekämistä se riippui.
Luodakseen oman algoritminsa, tutkijatkäytti joukkoa geneettisiä algoritmeja ja syväoppimista. He päätyivät miljooniin kuvioihin vain muutamalla värillä ja pienellä määrällä tietoja ihmistarkkailijoilta.
Menetelmää testattiin vapaaehtoisilla, joiden piti katsoa kuvia esineistä eri taustoja vasten ja painaa nappia heti nähdessäänJoka kerta algoritmi pienensi värien ja kuvioiden joukkoa niihin, jotka olivat vaikeimpia tai helpoimpia nähdä.Riippuen siitä, haluammeko löytää värin naamiointia varten vai huomata.
Neuraaliverkko, joka pettää muita hermoverkkoja
Tutkijat ovat luoneet hermoverkon, joka yrittää torjua väärennettyjä luokittelijoita.Lisää kuvaan tai videoon erityistä kohinaa, joka saa muut luokittelijat tunnistamaan sisällönalkuperäisenä ja muokkaamattomana.
Puhumme syväväärennöksistä - tämä on sisältö, jossahenkilö muutetaan erityisesti kasvot tai ilmeet, esimerkiksi kuuluisaksi tähdeksi, näyttelijäksi tai poliitikoksi, jotta hän saattaisi kompromissille jotain, mitä hän ei ole koskaan tehnyt tai sanonut. Luonnollisesti syväväärennösten jälkeen ilmaantui hermoverkkoja, jotka tunnistavat, onko videota tai valokuvaa muokattu.
Tämän kehityksen seuraavassa vaiheessaVastakkainasettelu ilmaantui hermoverkkoja, jotka pettävät syväväärennösten tunnistamisen algoritmeja. Deceiver-hermoverkko voi mahdollisesti mukautua mihin tahansa, mukaan lukien vielä tuntemattomiin, syväväärennöksiin. Tämän seurauksena tällainen algoritmi onnistuu huijaamaan luokittelijat 99 %:ssa tapauksista, mikäli videotulosta ei pakata. Kompression tapauksessa onnistumisprosentti putoaa 60-90 prosenttiin.
Lue lisää:
Tekoäly ratkaisi biologisen ongelman, jota tutkijat ovat taistelleet 50 vuoden ajan
Millisekunti 30 biljoonan vuoden sijasta tehtävään: Kiina esitteli uuden kvanttitietokoneen
Tutkijat etsivät ihmisiä, jotka eivät voi saada COVID-19-tartuntaa. Heidän tietojensa perusteella he tekevät lääkkeen