Het neurale netwerk vervalste spraak om algoritmen of andere mensen te misleiden
Wetenschappers van de Universiteit van Chicago
De onderzoekers simuleerden een situatie waarin:De aanvaller had een opname van de stem van het slachtoffer, die in het publieke domein te vinden is, evenals de mogelijkheid om live te chatten en spraak op te nemen. Opgemerkt wordt dat het neurale netwerk tijdens de training niet alleen rekening hield met de stem, maar ook met het timbre met intonatie.
Vervolgens gebruikten de auteurs de reeds getraindeneurale netwerken die in het publieke domein te vinden zijn. Ze kozen er twee: SV2TTS en AutoVC. Om de modellen te trainen, gebruikten de auteurs spraakopnames van 90 mensen uit drie openbare datasets: VCTK, LibriSpeech en SpeechAccent.
Als gevolg hiervan zijn onderzoekers in ongeveer 50% van de gevallensuccesvol ingelogd op uw account met behulp van een stem gesynthetiseerd door een neuraal netwerk. Bovendien kon een persoon bij het praten met het algoritme een echte stem met 50% niet onderscheiden van een nepstem.
Het neurale netwerk hielp bij het aanbrengen van make-up om het gezichtsherkenningssysteem te misleiden
Israëlische onderzoekers van de vernoemde universiteitBen-Gurion heeft een neuraal netwerk gemaakt dat gezichtsherkenningssystemen misleidt met behulp van make-up. Ze bepaalt de uiterlijke kenmerken die het apparaat het vaakst leest en selecteert vervolgens speciale make-up die ervoor zorgt dat het gezicht onherkenbaar wordt voor het systeem.
Tijdens bedrijf verwerkt het algoritme eerstfoto's van die persoon en vervolgens foto's van andere mensen van hetzelfde geslacht. Vervolgens wordt een heatmap gemaakt die de belangrijkste gebieden laat zien waar de onderscheidende kenmerken zich bevinden die gecorrigeerd moeten worden. Hierna maakt het systeem een afbeelding van een nieuw gezicht met make-up en test dit met een typisch gezichtsherkenningssysteem totdat het er niet meer op reageert.
Wanneer de optimale make-upoptie is verkregen, kan deze worden aangebracht. De auteurs merken op dat de nauwkeurigheid van het gezichtsherkenningssysteem is teruggebracht van 47,5% naar 1,2%.
Het neurale netwerk maakte een universeel gezicht om het identificatiesysteem te misleiden
Onderzoekers uit Israël hebben een neuraal netwerk gecreëerddie afbeeldingen genereert van gezichten die een groot aantal persoonlijkheden kunnen simuleren voor herkenningssystemen. Volgens de ontwikkelaars maakt hun algoritme ‘universele’ gezichten. Negen van dergelijke afbeeldingen kunnen bijvoorbeeld foto's van ten minste 40% van de mensen uit de open database vervangen.
Als gevolg hiervan genereerde het systeem gezichten die in 40-60% van de gevallen met succes als positief werden geïdentificeerd. Hiervoor gebruikten ze slechts negen gegenereerde foto's.
Het neurale netwerk bedriegt het oog en creëert de perfecte camouflage
Dat hebben wetenschappers van de Universiteit van Bristol gedaaneen neuraal netwerk dat de omgeving analyseert en de optimale kleur voor een object selecteert. Ze merkten op dat hun algoritme evolutiebiologen zal helpen begrijpen hoe de kleuring van verschillende levende soorten veranderde, en waar deze van afhankelijk was.
Om hun eigen algoritme te creëren, hebben onderzoekersgebruikte een reeks genetische algoritmen en deep learning. Ze eindigden met miljoenen patronen met slechts een paar kleuren en een kleine hoeveelheid gegevens van menselijke waarnemers.
De methode werd getest op vrijwilligers, dat zouden ze moeten doenmoesten naar afbeeldingen kijken met objecten op verschillende achtergronden en op een knop drukken zodra ze het object zagen. Elke keer reduceerde het algoritme de reeks kleuren en patronen tot de kleuren en patronen die het moeilijkst of het gemakkelijkst te zien waren. Afhankelijk van of we kleuren willen vinden voor camouflage of om op te vallen.
Een neuraal netwerk dat andere neurale netwerken misleidt
Wetenschappers hebben een neuraal netwerk gecreëerd dat dat probeertstrijd tegen valse classificaties. Het nieuwe algoritme kan speciale ruis in een afbeelding of video invoegen, waardoor andere classificatoren de inhoud als origineel en onbewerkt herkennen.
We hebben het over deepfakes - dit is inhoud waarineen persoon is speciaal van gezicht of gezichtsuitdrukking veranderd, bijvoorbeeld naar een beroemde ster, acteur of politicus, om een persoon te compromitteren op iets dat hij nooit heeft gedaan of gezegd. Natuurlijk verschenen er na deepfakes neurale netwerken die herkennen of een video of foto is bewerkt.
In de volgende fase in de ontwikkeling hiervanconfrontatie verschenen neurale netwerken die de algoritmen voor het herkennen van deepfakes misleiden. Het neurale netwerk van de bedrieger kan zich mogelijk aanpassen aan alle, inclusief nog onbekende, deepfake-classificaties. Als gevolg hiervan slaagt een dergelijk algoritme erin om de classificaties in 99% van de gevallen te misleiden, op voorwaarde dat het videoresultaat niet wordt gecomprimeerd. In het geval van compressie daalt het slagingspercentage tot 60-90%.
Lees verder:
AI lost een biologisch probleem op waar wetenschappers al 50 jaar mee worstelen
Een milliseconde in plaats van 30 biljoen jaar voor een taak: China introduceerde een nieuwe kwantumcomputer
Wetenschappers zijn op zoek naar mensen die niet besmet kunnen worden met COVID-19. Op basis van hun gegevens gaan ze een medicijn maken