Nevrale nettverk forfalsket tale for å lure algoritmer eller andre mennesker
Forskere fra University of Chicago
Forskere har handlet ut en situasjon hvorangriperen hadde et opptak av offerets stemme, som kan finnes i det offentlige domene, samt muligheten til å kommunisere live og ta opp talen. Det bemerkes at det nevrale nettverket under trening tok hensyn til ikke bare stemmen, men også klangen med intonasjon.
Videre brukte forfatterne de allerede trentenevrale nettverk som kan finnes i det offentlige domene. De valgte to: SV2TTS og AutoVC. For å trene modellene brukte forfatterne taleopptak av 90 personer fra tre offentlige datasett: VCTK, LibriSpeech og SpeechAccent.
Som et resultat, forskere i omtrent 50% av tilfellenelogget på kontoen din med en stemme syntetisert av et nevralt nettverk. Også, når han snakket med algoritmen, kunne en person ikke skille en ekte stemme fra en falsk med 50%.
Nevrale nettverk hjalp til med å sminke seg for å lure ansiktsgjenkjenningssystemet
Israelske forskere fra universitetet oppkalt etterBen-Gurion laget et nevralt nettverk som lurer ansiktsgjenkjenningssystemer ved hjelp av sminke. Hun bestemmer de funksjonene i utseendet som enheten oftest leser, og velger deretter spesiell sminke som vil bidra til å gjøre ansiktet ugjenkjennelig for systemet.
Under drift behandler algoritmen førstbilder av den personen og deretter bilder av andre mennesker av samme kjønn. Deretter lages et varmekart som viser hovedområdene hvor de særegne trekkene som må korrigeres befinner seg. Etter dette lager systemet et bilde av et nytt ansikt med sminke og tester det mot et typisk ansiktsgjenkjenningssystem til det slutter å svare på det.
Når den optimale sminken er oppnådd, kan den påføres. Forfatterne bemerker at nøyaktigheten til ansiktsgjenkjenningssystemet synker fra 47,5 % til 1,2 %.
Det nevrale nettverket har laget et universelt ansikt for å lure identifikasjonssystemet
Forskere fra Israel har opprettet et nevralt nettverksom genererer bilder av ansikter som er i stand til å simulere et stort antall personligheter for gjenkjenningssystemer. Ifølge utviklerne lager algoritmen deres "universelle" ansikter. For eksempel kan ni slike bilder erstatte bilder av minst 40 % av personer fra den åpne databasen.
Som et resultat genererte systemet ansikter som ble identifisert som positive i 40-60 % av tilfellene. De brukte totalt ni genererte bilder til dette.
Det nevrale nettverket bedrar øynene og skaper den perfekte kamuflasjen
Forskere fra University of Bristol har lagetet nevralt nettverk som analyserer miljøet og velger den optimale fargen for et objekt. De bemerket at algoritmen deres vil hjelpe evolusjonsbiologer til å forstå hvordan fargen til forskjellige levende arter endret seg, så vel som hva den var avhengig av.
For å lage sin egen algoritme, forskerebrukte et sett med genetiske algoritmer og dyp læring. De endte opp med millioner av maler med bare noen få farger og lite input fra menneskelige observatører.
Metoden ble testet på frivillige, det burde deskulle se på bilder med objekter på forskjellig bakgrunn og trykke på en knapp så snart de så objektet. Hver gang reduserte algoritmen settet med farger og mønstre til de som var vanskeligst eller lettest å se. Avhengig av om vi ønsker å finne farge for kamuflasje eller for å bli merkbar.
Et nevralt nettverk som lurer andre nevrale nettverk
Forskere har laget et nevralt nettverk som prøverkjempe mot falske klassifiserere. Den nye algoritmen kan sette inn spesiell støy i et bilde eller en video som får andre klassifiserere til å gjenkjenne innholdet som originalt og uredigert.
Vi snakker om deepfakes - dette er innhold deren person blir bevisst endret ansikt eller ansiktsuttrykk, for eksempel til en kjent stjerne, skuespiller eller politiker, for å kompromittere en person med noe han aldri har gjort eller sagt. Naturligvis, etter deepfakes, dukket det opp nevrale nettverk som gjenkjenner om en video eller et bilde har blitt redigert.
På neste utviklingsstadium av dettekonfrontasjon, har det dukket opp nevrale nettverk som lurer algoritmene for å gjenkjenne deepfakes. Det villedende nevrale nettverket kan potensielt tilpasse seg alle deepfake-klassifiserere, inkludert de som ennå ikke er kjent. Som et resultat klarer denne algoritmen å lure klassifiserere i 99 % av tilfellene, forutsatt at videoresultatet ikke blir komprimert. Ved kompresjon synker suksessraten til 60-90%.
Les mer:
AI løste et biologisk problem som forskere har kjempet mot i 50 år
Et millisekund i stedet for 30 billioner år for en oppgave: Kina introduserte en ny kvantedatamaskin
Forskere leter etter personer som ikke kan bli smittet med COVID-19. Basert på deres data vil de lage en medisin