Fałszywa mowę sieci neuronowej, aby oszukać algorytmy lub inne osoby
Naukowcy z Uniwersytetu w Chicago
Badacze rozegrali sytuację, w której:osoba atakująca miała nagranie głosu ofiary, które można znaleźć w domenie publicznej, a także możliwość komunikowania się na żywo i nagrywania przemówienia. Należy zauważyć, że podczas treningu sieć neuronowa uwzględniała nie tylko głos, ale także barwę z intonacją.
Ponadto autorzy korzystali z już przeszkolonychsieci neuronowe, które można znaleźć w domenie publicznej. Wybrali dwa: SV2TTS i AutoVC. Do szkolenia modeli autorzy wykorzystali nagrania mowy 90 osób z trzech publicznych zbiorów danych: VCTK, LibriSpeech i SpeechAccent.
W rezultacie badacze w około 50% przypadkówpomyślnie zalogowałeś się na swoje konto za pomocą głosu syntetyzowanego przez sieć neuronową. Ponadto rozmawiając z algorytmem, osoba nie była w stanie odróżnić prawdziwego głosu od fałszywego o 50%.
Sieć neuronowa pomogła nałożyć makijaż, aby oszukać system rozpoznawania twarzy
Izraelscy badacze z Uniwersytetu imBen-Gurion stworzył sieć neuronową, która oszukuje systemy rozpoznawania twarzy za pomocą makijażu. Określa te cechy wyglądu, które urządzenie najczęściej odczytuje, a następnie dobiera specjalny makijaż, który sprawi, że twarz będzie nierozpoznawalna dla systemu.
Podczas działania algorytm najpierw przetwarzazdjęcia tej osoby, a następnie zdjęcia innych osób tej samej płci. Następnie tworzona jest mapa cieplna, która pokazuje główne obszary, w których znajdują się cechy charakterystyczne wymagające korekty. Następnie system tworzy obraz nowej twarzy z makijażem i testuje go z typowym systemem rozpoznawania twarzy, aż przestanie na niego reagować.
Po uzyskaniu optymalnego makijażu można go nałożyć. Autorzy zauważają, że dokładność systemu rozpoznawania twarzy spada z 47,5% do 1,2%.
Sieć neuronowa stała się uniwersalną twarzą, aby oszukać system identyfikacji
Naukowcy z Izraela stworzyli sieć neuronowąktóry generuje obrazy twarzy zdolne do symulowania dużej liczby osobowości na potrzeby systemów rozpoznawania. Według twórców ich algorytm tworzy „uniwersalne” twarze. Przykładowo dziewięć takich obrazów może zastąpić zdjęcia co najmniej 40% osób z otwartej bazy danych.
W rezultacie system wygenerował twarze, które zostały pomyślnie zidentyfikowane jako pozytywne w 40-60% przypadków. Wykorzystali do tego łącznie dziewięć wygenerowanych zdjęć.
Sieć neuronowa oszukuje oczy, tworząc idealny kamuflaż
Dokonali tego naukowcy z Uniwersytetu w Bristolusieć neuronowa, która analizuje otoczenie i wybiera optymalny kolor obiektu. Zauważyli, że ich algorytm pomoże biologom ewolucyjnym zrozumieć, w jaki sposób zmieniało się ubarwienie różnych żywych gatunków, a także od czego to zależało.
Aby stworzyć własny algorytm, badaczewykorzystał zestaw algorytmów genetycznych i głębokiego uczenia się. Skończyło się na milionach szablonów z zaledwie kilkoma kolorami i niewielkim wkładem od ludzkich obserwatorów.
Metodę przetestowano na ochotnikach, a powinnimieli patrzeć na obrazki przedstawiające obiekty na różnym tle i naciskać przycisk, gdy tylko zobaczą ten obiekt. Za każdym razem algorytm redukował zestaw kolorów i wzorów do tych, które były najtrudniejsze lub najłatwiejsze do zauważenia. W zależności od tego, czy chcemy znaleźć koloryt do kamuflażu, czy też być zauważalnym.
Sieć neuronowa, która oszukuje inne sieci neuronowe
Naukowcy stworzyli sieć neuronową, która próbujewalka z fałszywymi klasyfikatorami. Nowy algorytm może wstawić do obrazu lub filmu specjalny szum, który powoduje, że inne klasyfikatory rozpoznają treść jako oryginalną i nieedytowaną.
Mówimy o deepfake - to treść, w którejosoba celowo zmienia swoją twarz lub mimikę, na przykład na słynną gwiazdę, aktora lub polityka, aby zdyskredytować tę osobę za coś, czego nigdy nie zrobił ani nie powiedział. Oczywiście po deepfake pojawiły się sieci neuronowe, które rozpoznają, czy wideo lub zdjęcie zostało edytowane.
Na kolejnym etapie rozwoju tegokonfrontacji, pojawiły się sieci neuronowe, które oszukują algorytmy rozpoznawania deepfake. Zwodnicza sieć neuronowa może potencjalnie przystosować się do dowolnych klasyfikatorów deepfake, w tym również nieznanych. W rezultacie algorytmowi udaje się oszukać klasyfikatory w 99% przypadków, pod warunkiem, że wynik wideo nie zostanie skompresowany. W przypadku kompresji wskaźnik sukcesu spada do 60-90%.
Czytaj więcej:
Sztuczna inteligencja rozwiązała biologiczny problem, z którym naukowcy zmagają się od 50 lat
Milisekunda zamiast 30 bilionów lat na zadanie: Chiny wprowadziły nowy komputer kwantowy
Naukowcy poszukują osób, które nie mogą zostać zarażone COVID-19. Na podstawie ich danych zrobią lek