Nieprzeszkoleni uczestnicy potrafią odróżnić prawdziwy obraz od fałszywego w mniej niż połowie przypadków,
Do przeprowadzenia badania autorzy wybrali 400prawdziwe zdjęcia i 400 obrazów utworzonych przez sieć neuronową. W każdym zestawie kobiety i mężczyźni byli reprezentowani w równych proporcjach, przedstawiciele różnych ras i grup wiekowych.
Uczestnikom eksperymentu pokazano 128 losowowybrane zdjęcia i poproszono o ustalenie, czy jest prawdziwe, czy fałszywe. Badani odpowiedzieli poprawnie średnio w 48,2% przypadków. Jednocześnie liczba błędów w klasyfikacji zdjęć białych mężczyzn była większa niż w analizie zdjęć kobiet czy przedstawicieli innych ras. Według autorów, powodem jest to, że więcej zdjęć białych mężczyzn jest dostępnych dla uczenia maszynowego AI, co oznacza, że jakość podróbek rośnie.
Druga grupa uczestników badaniawstępne szkolenie z komputerowego rozpoznawania twarzy. Pokazano im przykłady śladów przetwarzania obrazu, które mogłyby wskazywać na podróbkę. Ponadto po każdej odpowiedzi uczestnicy byli informowani, czy prawidłowo sklasyfikowali obraz. W tym przypadku jakość rozpoznawania fałszywych zdjęć wzrosła, ale tylko do 59%.
Badacze zapytali także osobną grupę223 uczestników oceniło w skali od 1 do 7, jak godne zaufania są ich zdaniem osoby na zdjęciach. Średni poziom zaufania do osób prawdziwych wyniósł 4,48, a do osób fałszywych – 4,82. Zdaniem badaczy różnica wynosząca 8% przekracza margines błędu i jest znacząca. Co ciekawe, trzy z czterech najbardziej zaufanych osób były fałszywe, podczas gdy wszystkie cztery najmniej zaufane były prawdziwe.
„Odkryliśmy, że sztucznie stworzone twarzewzbudzają więcej zaufania niż te prawdziwe, piszą autorzy badania. „Najprawdopodobniej wynika to z faktu, że zsyntetyzowane twarze są bardziej podobne do przeciętnych, które, jak wykazano wcześniej, są uważane za bardziej wiarygodne”.
Synteza dźwięku, obrazu i wideo za pomocąDzięki sztucznej inteligencji powszechnie dostępne są efekty specjalne na poziomie Hollywood. Syntezowana mowa, fikcyjne obrazy i zastępowanie jednej osoby drugą to już nie tylko rozrywka, ale także okazja do oszustwa i oszustwa. „Łatwy dostęp do tak wysokiej jakości fałszywych obrazów doprowadzi do szeregu problemów, w tym na przykład do tworzenia bardziej przekonujących fałszywych profili w sieciach społecznościowych, kampanii oszustw i dezinformacji, co będzie miało poważne konsekwencje dla jednostek i całego społeczeństwa” – naukowcy notatka.
Czytaj więcej:
Naukowcy odkryli najzdrowszych ludzi na Ziemi: chodzi o wyjątkowy styl życia
Niebezpieczeństwo darmowych VPN. Dlaczego nie można ich pobrać i jak się zabezpieczyć?
Fizycy odtworzyli w laboratorium zdolności T-1000 z „Terminatora-2”