Discurs fals al rețelei neuronale pentru a păcăli algoritmi sau alte persoane
Oameni de știință de la Universitatea din Chicago
Cercetătorii au jucat o situație în careatacatorul a avut o înregistrare a vocii victimei, care poate fi găsită în domeniul public, precum și capacitatea de a comunica în direct și de a înregistra discursul. Se observă că în timpul antrenamentului rețeaua neuronală a luat în considerare nu numai vocea, ci și timbrul cu intonație.
În plus, autorii au folosit cele deja instruiterețele neuronale care pot fi găsite în domeniul public. Au ales două: SV2TTS și AutoVC. Pentru a antrena modelele, autorii au folosit înregistrări de vorbire a 90 de persoane din trei seturi de date publice: VCTK, LibriSpeech și SpeechAccent.
Ca rezultat, cercetătorii în aproximativ 50% din cazuriautentificat cu succes la contul dvs. folosind o voce sintetizată de o rețea neuronală. De asemenea, atunci când vorbește cu algoritmul, o persoană nu putea distinge cu 50% o voce reală de una falsă.
Rețeaua neuronală a ajutat la machiaj pentru a păcăli sistemul de recunoaștere facială
Cercetătorii israelieni de la Universitatea care poartă numeleBen-Gurion a creat o rețea neuronală care înșală sistemele de recunoaștere facială folosind machiaj. Ea determină acele caracteristici ale aspectului pe care dispozitivul le citește cel mai des și apoi selectează un machiaj special care va ajuta să facă fața de nerecunoscut pentru sistem.
În timpul funcționării, algoritmul procesează mai întâipoze cu acea persoană și apoi poze cu alte persoane de același sex. În continuare, este creată o hartă termică care arată principalele zone în care sunt localizate caracteristicile distinctive care trebuie corectate. După aceasta, sistemul creează o imagine a unei fețe noi cu machiaj și o testează împotriva unui sistem tipic de recunoaștere facială până când nu mai răspunde la acesta.
Când se obține machiajul optim, acesta poate fi aplicat. Autorii notează că acuratețea sistemului de recunoaștere a feței scade de la 47,5% la 1,2%.
Rețeaua neuronală a făcut o față universală pentru a înșela sistemul de identificare
Cercetătorii din Israel au creat o rețea neuronalăcare generează imagini de chipuri capabile să simuleze un număr mare de personalităţi pentru sistemele de recunoaştere. Potrivit dezvoltatorilor, algoritmul lor face chipuri „universale”. De exemplu, nouă astfel de imagini pot înlocui fotografiile a cel puțin 40% dintre oameni din baza de date deschisă.
Drept urmare, sistemul a generat fețe care au fost identificate cu succes ca pozitive în 40-60% din cazuri. Au folosit un total de nouă fotografii generate pentru aceasta.
Rețeaua neuronală înșală ochii, creând camuflajul perfect
Oamenii de știință de la Universitatea din Bristol au făcuto rețea neuronală care analizează mediul și selectează culoarea optimă pentru un obiect. Ei au remarcat că algoritmul lor îi va ajuta pe biologii evoluționari să înțeleagă cum s-a schimbat colorarea diferitelor specii vii, precum și de ce depinde aceasta.
Pentru a-și crea propriul algoritm, cercetătoria folosit un set de algoritmi genetici și de deep learning. Au ajuns să aibă milioane de șabloane cu doar câteva culori și puține contribuții din partea observatorilor umani.
Metoda a fost testată pe voluntari, ar trebuitrebuia să privească imagini cu obiecte pe fundaluri diferite și să apese un buton de îndată ce au văzut obiectul. De fiecare dată, algoritmul a redus setul de culori și modele la cele care erau cel mai greu sau mai ușor de văzut. Depinde daca vrem sa gasim colorant pentru camuflaj sau sa fim remarcati.
O rețea neuronală care păcălește alte rețele neuronale
Oamenii de știință au creat o rețea neuronală care încearcălupta împotriva clasificatoarelor false. Noul algoritm poate insera un zgomot special într-o imagine sau într-un videoclip, care determină alți clasificatori să recunoască conținutul ca original și needitat.
Vorbim despre deepfakes - acesta este conținut în careunei persoane i se schimbă în mod deliberat fața sau expresiile faciale, de exemplu, cu o vedetă celebră, actor sau politician, pentru a discredita persoana pentru ceva ce nu a făcut sau spus niciodată. Desigur, după deepfake-uri, au apărut rețele neuronale care recunosc dacă un videoclip sau o fotografie a fost editat.
La următoarea etapă de dezvoltare a acestuiconfruntare, au apărut rețele neuronale care înșală algoritmii de recunoaștere a deepfake-urilor. Rețeaua neuronală înșelătoare se poate adapta la orice clasificatori deepfake, inclusiv la cei încă necunoscuti. Drept urmare, acest algoritm reușește să înșele clasificatorii în 99% din cazuri, cu condiția ca rezultatul video să nu fie comprimat. În cazul compresiei, rata de succes scade la 60-90%.
Citeste mai mult:
AI a rezolvat o problemă biologică cu care oamenii de știință se luptă de 50 de ani
O milisecundă în loc de 30 de trilioane de ani pentru o sarcină: China a introdus un nou computer cuantic
Oamenii de știință caută persoane care nu pot fi infectate cu COVID-19. Pe baza datelor lor, vor face un medicament