Neuralt nätverk fejkade tal för att lura algoritmer eller andra människor
Forskare från University of Chicago
Forskarna spelade ut en situation därangriparen hade en inspelning av offrets röst, som kan hittas i det offentliga rummet, samt möjligheten att kommunicera live och spela in talet. Det noteras att det neurala nätverket under träning tog hänsyn inte bara till rösten utan också klangen med intonation.
Vidare använde författarna de redan utbildadeneurala nätverk som kan hittas i det offentliga området. De valde två: SV2TTS och AutoVC. För att träna modellerna använde författarna talinspelningar av 90 personer från tre offentliga datamängder: VCTK, LibriSpeech och SpeechAccent.
Som ett resultat, forskare i cirka 50% av fallenlyckats logga in på ditt konto med en röst som syntetiserats av ett neuralt nätverk. När man pratade med algoritmen kunde en person inte heller skilja en riktig röst från en falsk med 50%.
Neuralt nätverk hjälpte till att sminka sig för att lura ansiktsigenkänningssystemet
Israeliska forskare från universitetet uppkallade efterBen-Gurion skapade ett neuralt nätverk som lurar ansiktsigenkänningssystem med hjälp av smink. Hon bestämmer de utseendeegenskaper som enheten oftast läser och väljer sedan speciell smink som hjälper till att göra ansiktet oigenkännligt för systemet.
Under drift bearbetar algoritmen förstbilder på den personen och sedan bilder på andra personer av samma kön. Därefter skapas en värmekarta som visar huvudområdena där de särdrag som behöver korrigeras finns. Efter detta skapar systemet en bild av ett nytt ansikte med smink och testar det mot ett typiskt ansiktsigenkänningssystem tills det slutar svara på det.
När den optimala sminken har erhållits kan den appliceras. Författarna noterar att noggrannheten i ansiktsigenkänningssystemet minskar från 47,5 % till 1,2 %.
Det neurala nätverket har gjort ett universellt ansikte för att lura identifieringssystemet
Forskare från Israel har skapat ett neuralt nätverksom genererar bilder av ansikten som kan simulera ett stort antal personligheter för igenkänningssystem. Enligt utvecklarna gör deras algoritm "universella" ansikten. Till exempel kan nio sådana bilder ersätta foton på minst 40 % av personerna från den öppna databasen.
Som ett resultat genererade systemet ansikten som framgångsrikt identifierades som positiva i 40-60 % av fallen. De använde totalt nio genererade foton för detta.
Det neurala nätverket lurar ögonen och skapar det perfekta kamouflaget
Forskare från University of Bristol har gjortett neuralt nätverk som analyserar miljön och väljer den optimala färgen för ett objekt. De noterade att deras algoritm kommer att hjälpa evolutionära biologer att förstå hur färgen på olika levande arter förändrades, liksom vad den berodde på.
För att skapa sin egen algoritm, forskareanvände en uppsättning genetiska algoritmer och djupinlärning. De slutade med miljontals mallar med bara några få färger och lite input från mänskliga observatörer.
Metoden testades på frivilliga, det borde deskulle titta på bilder med föremål på olika bakgrunder och trycka på en knapp så fort de såg föremålet. Varje gång reducerade algoritmen uppsättningen färger och mönster till de som var svårast eller lättast att se. Beroende på om vi vill hitta färg för kamouflage eller för att märkas.
Ett neuralt nätverk som lurar andra neurala nätverk
Forskare har skapat ett neuralt nätverk som försökerkampen mot falska klassificerare. Den nya algoritmen kan infoga speciellt brus i en bild eller video som får andra klassificerare att känna igen innehållet som original och oredigerat.
Vi pratar om deepfakes - det här är innehåll dären person ändras medvetet sitt ansikte eller ansiktsuttryck, till exempel till en känd stjärna, skådespelare eller politiker, för att kompromissa en person med något som han aldrig har gjort eller sagt. Naturligtvis, efter deepfakes, dök det upp neurala nätverk som känner igen om en video eller ett foto har redigerats.
Vid nästa utvecklingsstadium av dettakonfrontation, neurala nätverk har dykt upp som lurar algoritmerna för att känna igen deepfakes. Det vilseledande neurala nätverket kan potentiellt anpassa sig till alla deepfake-klassificerare, inklusive de som ännu är okända. Som ett resultat lyckas denna algoritm lura klassificerare i 99% av fallen, förutsatt att videoresultatet inte kommer att komprimeras. Vid kompression sjunker framgångsgraden till 60-90%.
Läs mer:
AI löste ett biologiskt problem som forskare har kämpat mot i 50 år
En millisekund istället för 30 biljoner år för en uppgift: Kina introducerade en ny kvantdator
Forskare letar efter människor som inte kan smittas av covid-19. Baserat på deras data kommer de att göra ett läkemedel