Neironu tīkls viltoja runu, lai maldinātu algoritmus vai citus cilvēkus
Zinātnieki no Čikāgas universitātes
Pētnieki simulēja situāciju, kadUzbrucēja rīcībā bija upura balss ieraksts, kas atrodams publiskajā telpā, kā arī iespēja tērzēt tiešraidē un ierakstīt runu. Tiek atzīmēts, ka neironu tīkls apmācības laikā ņēma vērā ne tikai balsi, bet arī tembru ar intonāciju.
Tālāk autori izmantoja jau apmācītoneironu tīkli, kurus var atrast publiskajā domēnā. Viņi izvēlējās divus: SV2TTS un AutoVC. Lai apmācītu modeļus, autori izmantoja 90 cilvēku runas ierakstus no trim publiskām datu kopām: VCTK, LibriSpeech un SpeechAccent.
Tā rezultātā pētnieki aptuveni 50% gadījumuveiksmīgi pieteicies savā kontā, izmantojot neironu tīkla sintezētu balsi. Tāpat, runājot ar algoritmu, cilvēks par 50% nevarēja atšķirt īstu balsi no viltus.
Neironu tīkls palīdzēja uzklāt aplauzumu, lai maldinātu sejas atpazīšanas sistēmu
Izraēlas pētnieki no nosauktās universitātesBen-Gurions izveidoja neironu tīklu, kas maldina sejas atpazīšanas sistēmas, izmantojot aplauzumu. Viņa nosaka tās izskata iezīmes, kuras ierīce visbiežāk nolasa, un pēc tam izvēlas īpašu grimu, kas palīdzēs padarīt seju sistēmai neatpazīstamu.
Darbības laikā algoritms vispirms apstrādāšīs personas attēlus un pēc tam citu tā paša dzimuma cilvēku attēlus. Tālāk tiek izveidota siltuma karte, kas parāda galvenās jomas, kurās atrodas atšķirīgās iezīmes, kuras ir jālabo. Pēc tam sistēma izveido jaunas sejas ar aplauzumu attēlu un pārbauda to ar tipisku sejas atpazīšanas sistēmu, līdz tā pārstāj uz to reaģēt.
Kad ir iegūts optimālais grima variants, to var uzklāt. Autori atzīmē, ka sejas atpazīšanas sistēmas precizitāte tiek samazināta no 47,5% līdz 1,2%.
Neironu tīkls izveidoja universālu seju, lai maldinātu identifikācijas sistēmu
Pētnieki no Izraēlas ir izveidojuši neironu tīklukas ģenerē seju attēlus, kas spēj atdarināt lielu skaitu personību atpazīšanas sistēmām. Pēc izstrādātāju domām, viņu algoritms veido “universālas” sejas. Piemēram, deviņi šādi attēli var aizstāt vismaz 40% cilvēku fotogrāfijas no atvērtās datu bāzes.
Rezultātā sistēma ģenerēja sejas, kas 40–60% gadījumu tika veiksmīgi identificētas kā pozitīvas. Šim nolūkam viņi izmantoja tikai deviņas ģenerētas fotogrāfijas.
Neironu tīkls maldina aci, radot perfektu maskēšanos
Bristoles universitātes zinātnieki ir izveidojušineironu tīkls, kas analizē vidi un izvēlas objekta optimālo krāsu. Viņi atzīmēja, ka viņu algoritms palīdzēs evolūcijas biologiem saprast, kā mainījās dažādu dzīvo sugu krāsojums, kā arī no kā tas ir atkarīgs.
Lai izveidotu savu algoritmu, pētniekiizmantoja ģenētisko algoritmu kopumu un dziļu mācīšanos. Viņi beidzās ar miljoniem rakstu ar tikai dažām krāsām un nelielu datu apjomu no cilvēku novērotājiem.
Metode tika pārbaudīta uz brīvprātīgajiem, viņiem vajadzētuvajadzēja apskatīt attēlus ar objektiem uz dažādiem foniem un nospiest pogu, tiklīdz viņi ieraudzīja objektu. Katru reizi algoritms samazināja krāsu un rakstu kopu līdz tām, kuras bija visgrūtāk vai visvieglāk saskatāmas. Atkarībā no tā, vai mēs vēlamies atrast krāsojumu maskēšanai vai būt pamanāmiem.
Neironu tīkls, kas maldina citus neironu tīklus
Zinātnieki ir izveidojuši neironu tīklu, kas mēģinacīņa pret viltotiem klasifikatoriem. Jaunais algoritms var ievietot attēlā vai videoklipā īpašu troksni, kas liek citiem klasifikatoriem atpazīt saturu kā oriģinālu un nerediģētu.
Mēs runājam par dziļajiem viltojumiem - tas ir saturs, kurācilvēka seja vai sejas izteiksme tiek īpaši mainīta, piemēram, pret slavenu zvaigzni, aktieri vai politiķi, lai kompromitētu cilvēku par to, ko viņš nekad nav darījis vai teicis. Protams, pēc dziļajiem viltojumiem parādījās neironu tīkli, kas atpazīst, vai video vai fotoattēls ir rediģēts.
Nākamajā attīstības posmā šokonfrontācija, parādījās neironu tīkli, kas maldina dziļo viltojumu atpazīšanas algoritmus. Maldinātāja neironu tīkls potenciāli var pielāgoties jebkuriem, tostarp vēl nezināmiem, dziļi viltotiem klasifikatoriem. Rezultātā šādam algoritmam 99% gadījumu izdodas maldināt klasifikatorus, ja vien video rezultāts nav saspiests. Kompresijas gadījumā panākumu līmenis samazinās līdz 60-90%.
Lasīt vairāk:
AI atrisināja bioloģisku problēmu, ar kuru zinātnieki cīnījās 50 gadus
Milisekunde 30 triljonu gadu vietā uzdevumam: Ķīna ieviesa jaunu kvantu datoru
Zinātnieki meklē cilvēkus, kuri nevar būt inficēti ar COVID-19. Pamatojoties uz viņu datiem, viņi izgatavos zāles