Neuroninio tinklo suklastota kalba, siekiant apgauti algoritmus ar kitus žmones
Čikagos universiteto mokslininkai
Tyrėjai suvaidino situaciją, kaiužpuolikas turėjo aukos balso įrašą, kurį galima rasti viešoje erdvėje, taip pat galimybę bendrauti gyvai ir įrašyti kalbą. Pažymima, kad treniruočių metu neuroninis tinklas atsižvelgė ne tik į balsą, bet ir į tembrą su intonacija.
Be to, autoriai naudojo jau apmokytusneuroniniai tinklai, kuriuos galima rasti viešajame domene. Jie pasirinko du: SV2TTS ir AutoVC. Norėdami apmokyti modelius, autoriai naudojo 90 žmonių kalbos įrašus iš trijų viešųjų duomenų rinkinių: VCTK, LibriSpeech ir SpeechAccent.
Dėl to tyrėjai sėkmingai prisijungė prie paskyros apie 50% atvejųBe to, kalbėdamas su algoritmu, žmogus negalėjo atskirti tikro balso nuo50% netikras.
Neuroninis tinklas padėjo pasidaryti makiažą, kad apgautų veido atpažinimo sistemą
Izraelio mokslininkai iš Ben-Guriono universiteto sukūrė neuroninį tinklą, kuris apgaudinėjaJis aptinka išvaizdos ypatybes, kurias dažniausiai skaitoprietaisą, o tada pasirenka specialų makiažą, kuris padės padaryti veidą neatpažįstamą sistemai.
Kai jis veikia, algoritmas pirmiausia apdoroja to asmens nuotraukas, o tada kitų tos pačios lyties žmonių vaizdus.Tada sukuriamas šilumos žemėlapis, kuriame rodomos pagrindinės sritys, kuriose yra skirtumų, kuriuos reikia ištaisyti.Po to sistema sukuria naujo veido vaizdą su makiažu ir patikrinimaisjis įprastoje veido atpažinimo sistemoje, kol sustosreaguoti į tai.
Kai gaunamas optimalus makiažas, jį galima tepti. Autoriai pažymi, kad veido atpažinimo sistemos tikslumas sumažėja nuo 47,5% iki 1,2%.
Neuroninis tinklas padarė universalų veidą, kad apgautų identifikavimo sistemą
Izraelio mokslininkai sukūrė neuroninį tinklą, kuris generuoja veidų vaizdus, galinčius imituoti daugybę asmenybių atpažinimo sistemoms.Pasak kūrėjų, jų algoritmas daro "universalius" veidus.Pakeiskite bent 40% žmonių nuotrauką iš atviros duomenų bazės.
Dėl to sistema sugeneravo veidus, kurie buvo sėkmingai nustatyti kaip teigiami 40–60% atvejų. Tam jie panaudojo iš viso devynias sukurtas nuotraukas.
Neuroninis tinklas apgauna akis, sukurdamas tobulą kamufliažą
Bristolio universiteto mokslininkai sukūrė neuroninį tinklą, kuris analizuoja aplinką ir atrenkaJie pažymėjo, kad jų algoritmas padėsevoliuciniai biologai suprasti, kaip pasikeitė skirtingų gyvų rūšių spalva, taip pat nuonuo ko tai priklausė.
Norėdami sukurti savo algoritmą, mokslininkainaudojo genetinių algoritmų rinkinį ir gilųjį mokymąsi. Jie baigėsi su milijonais šablonų su vos keliomis spalvomis ir mažai žmonių stebėtojų.
Metodas buvo išbandytas su savanoriais, kurie turėjo pažvelgti į objektų vaizdus skirtinguose fonuose ir paspausti mygtuką, kai tik pamatėKiekvieną kartą algoritmas sumažino spalvų ir raštų rinkinį iki tų, kuriuos buvo sunkiausia ar lengviausia pamatyti.Priklausomai nuo to, ar norime rasti kamufliažo spalvą, ar būti pastebėti.
Neuroninis tinklas, kuris apgaudinėja kitus neuroninius tinklus
Mokslininkai sukūrė neuroninį tinklą, kuris bando kovoti su netikrais klasifikatoriais.Į vaizdą arba vaizdo įrašą įterpkite specialų triukšmą, dėl kurio kiti klasifikatoriai atpažintų turinįkaip originalus ir neredaguotas.
Mes kalbame apie gilius padirbinius - tai yra turinys, kuriameasmuo sąmoningai keičia savo veidą ar veido išraiškas, pavyzdžiui, į garsią žvaigždę, aktorių ar politiką, siekiant diskredituoti asmenį tuo, ko jis niekada nepadarė ar nesakė. Natūralu, kad po gilių klastočių atsirado neuroniniai tinklai, kurie atpažįsta, ar vaizdo įrašas ar nuotrauka buvo redaguoti.
Kitame šio vystymosi etapekonfrontacija, atsirado neuroniniai tinklai, apgaudantys giliųjų klastotės atpažinimo algoritmus. Apgaulingasis neuroninis tinklas gali prisitaikyti prie bet kokių giliai padirbtų klasifikatorių, įskaitant tuos, kurie dar nežinomi. Dėl to šis algoritmas sugeba apgauti klasifikatorius 99% atvejų, su sąlyga, kad vaizdo įrašo rezultatas nebus suspaustas. Suspaudimo atveju sėkmės procentas sumažėja iki 60-90%.
Skaityti daugiau:
AI išsprendė biologinę problemą, su kuria mokslininkai kovojo 50 metų
Milisekundė vietoj 30 trilijonų metų užduočiai atlikti: Kinija pristatė naują kvantinį kompiuterį
Mokslininkai ieško žmonių, kurie negali būti užsikrėtę COVID-19. Remdamiesi savo duomenimis, jie pagamins vaistą