Neuralt netværk forfalskede tale for at narre algoritmer eller andre mennesker
Forskere fra University of Chicago
Forskerne udspillede en situation, hvorangriberen havde en optagelse af offerets stemme, som kan findes i det offentlige domæne, samt evnen til at kommunikere live og optage talen. Det bemærkes, at det neurale netværk under træning ikke kun tog hensyn til stemmen, men også klangen med intonation.
Yderligere brugte forfatterne de allerede trænedeneurale netværk, der kan findes i det offentlige domæne. De valgte to: SV2TTS og AutoVC. For at træne modellerne brugte forfatterne taleoptagelser af 90 personer fra tre offentlige datasæt: VCTK, LibriSpeech og SpeechAccent.
Som et resultat, forskere i cirka 50% af tilfældenelogget ind på din konto ved hjælp af en stemme syntetiseret af et neuralt netværk. Når man taler til algoritmen, kunne en person heller ikke skelne en ægte stemme fra en falsk med 50%.
Neuralt netværk hjalp med at lægge makeup for at narre ansigtsgenkendelsessystemet
Israelske forskere fra universitetet opkaldt efterBen-Gurion lavede et neuralt netværk, der bedrager ansigtsgenkendelsessystemer ved hjælp af makeup. Hun bestemmer de træk ved udseendet, som enheden oftest læser, og vælger derefter speciel makeup, der vil hjælpe med at gøre ansigtet uigenkendeligt for systemet.
Under driften behandler algoritmen førstbilleder af den person og derefter billeder af andre mennesker af samme køn. Dernæst laves et varmekort, der viser hovedområderne, hvor de særkende, der skal rettes, befinder sig. Herefter opretter systemet et billede af et nyt ansigt med makeup og tester det mod et typisk ansigtsgenkendelsessystem, indtil det holder op med at reagere på det.
Når den optimale make-up er opnået, kan den påføres. Forfatterne bemærker, at nøjagtigheden af ansigtsgenkendelsessystemet falder fra 47,5 % til 1,2 %.
Det neurale netværk har lavet et universelt ansigt for at bedrage identifikationssystemet
Forskere fra Israel har skabt et neuralt netværksom genererer billeder af ansigter, der er i stand til at simulere et stort antal personligheder til genkendelsessystemer. Ifølge udviklerne laver deres algoritme "universelle" ansigter. For eksempel kan ni sådanne billeder erstatte billeder af mindst 40 % af personerne fra den åbne database.
Som et resultat genererede systemet ansigter, der med succes blev identificeret som positive i 40-60 % af tilfældene. De brugte i alt ni genererede billeder til dette.
Det neurale netværk bedrager øjnene og skaber den perfekte camouflage
Forskere fra University of Bristol har lavetet neuralt netværk, der analyserer miljøet og vælger den optimale farve til et objekt. De bemærkede, at deres algoritme vil hjælpe evolutionære biologer med at forstå, hvordan farven på forskellige levende arter ændrede sig, såvel som hvad den afhang af.
For at skabe deres egen algoritme, forskerebrugt et sæt genetiske algoritmer og dyb læring. De endte med millioner af skabeloner med kun nogle få farver og lidt input fra menneskelige observatører.
Metoden blev testet på frivillige, det burde deskulle se på billeder med objekter på forskellige baggrunde og trykke på en knap, så snart de så objektet. Hver gang reducerede algoritmen sættet af farver og mønstre til dem, der var sværest eller nemmest at se. Alt efter om vi vil finde farve til camouflage eller at være mærkbare.
Et neuralt netværk, der snyder andre neurale netværk
Forskere har skabt et neuralt netværk, der prøverkamp mod falske klassificeringsorganer. Den nye algoritme kan indsætte speciel støj i et billede eller en video, der får andre klassificerere til at genkende indholdet som originalt og uredigeret.
Vi taler om deepfakes - dette er indhold, hvorien person er bevidst ændret deres ansigt eller ansigtsudtryk, for eksempel til en berømt stjerne, skuespiller eller politiker, for at miskreditere personen på noget, som han aldrig har gjort eller sagt. Naturligvis, efter deepfakes, dukkede neurale netværk op, der genkender, om en video eller et billede er blevet redigeret.
På næste udviklingstrin af dettekonfrontation, er der dukket neurale netværk op, der bedrager algoritmerne til at genkende deepfakes. Det bedragende neurale netværk kan potentielt tilpasse sig alle deepfake-klassifikatorer, inklusive dem, der endnu ikke er kendte. Som følge heraf formår denne algoritme at narre klassificerere i 99% af tilfældene, forudsat at videoresultatet ikke bliver komprimeret. I tilfælde af kompression falder succesraten til 60-90%.
Læs mere:
AI løste et biologisk problem, som videnskabsmænd har kæmpet med i 50 år
Et millisekund i stedet for 30 billioner år for en opgave: Kina introducerede en ny kvantecomputer
Forskere leder efter mennesker, der ikke kan blive smittet med COVID-19. Ud fra deres data vil de lave en medicin