Otränade deltagare kan skilja en riktig bild från en falsk i mindre än hälften av fallen,
För att genomföra studien valde författarna ut 400riktiga fotografier och 400 bilder skapade av ett neuralt nätverk. I varje set var kvinnor och män representerade i lika stora proportioner, representanter för olika raser och åldrar.
Deltagarna i experimentet visades 128 slumpmässigtutvalda bilder och ombedd att avgöra om det är äkta eller falska. I genomsnitt svarade försökspersonerna rätt i 48,2 % av fallen. Samtidigt var antalet fel i klassificeringen av fotografier av vita män större än i analysen av fotografier av kvinnor eller representanter för andra raser. Anledningen är enligt författarna att fler bilder på vita män finns tillgängliga för AI-maskininlärning, vilket gör att kvaliteten på det fejkade ökar.
Den andra gruppen av studiedeltagareförträning i datorgenererad ansiktsigenkänning. De visades exempel på spår av bildbehandling som kunde tyda på en förfalskning. Dessutom fick deltagarna efter varje svar veta om de hade klassificerat bilden korrekt. I det här fallet ökade kvaliteten på igenkänningen av falska bilder, men bara upp till 59%.
Forskarna frågade också en separat grupp av223 deltagare bedömde på en skala från 1 till 7 hur pålitliga de tyckte att personerna på bilderna var. Den genomsnittliga nivån av förtroende för riktiga människor var 4,48, och för falska människor - 4,82. Skillnaden på 8 %, enligt forskarna, överstiger felmarginalen och är signifikant. Intressant nog var tre av de fyra mest betrodda personerna falska, medan alla fyra av de minst betrodda var riktiga.
"Vi finner att konstgjort skapade ansikteninspirera mer förtroende än verkliga, skriver författarna till studien. "Detta beror troligen på det faktum att de syntetiserade ansiktena är mer lika de genomsnittliga, som, som har bevisats tidigare, anses vara mer tillförlitliga."
Syntes av ljud, bild och video medatt använda AI har gjort specialeffekter på Hollywood-nivå allmänt tillgängliga. Syntetiserat tal, fiktiva bilder och att ersätta en person med en annan är inte längre bara underhållning, utan också en möjlighet till bedrägeri och bedrägeri. "Enkel åtkomst till sådana falska bilder av hög kvalitet kommer att leda till en mängd olika problem, inklusive till exempel mer övertygande falska profiler på sociala nätverk, bedrägeri- och desinformationskampanjer, med allvarliga konsekvenser för individer och samhället som helhet," forskarna notera.
Läs mer:
Forskare har hittat de friskaste människorna på jorden: allt handlar om en unik livsstil
Faran med gratis VPN. Varför kan de inte laddas ner och hur skyddar man sig?
Fysiker har återskapat förmågorna hos T-1000 från "Terminator-2" i laboratoriet