Netrénovaní účastníci dokážou odlišit skutečný obraz od falešného v méně než polovině případů,
Pro provedení studie autoři vybrali 400skutečné fotografie a 400 obrázků vytvořených neuronovou sítí. V každém setu byli ve stejném poměru zastoupeni ženy a muži, zástupci různých ras a věku.
Účastníků experimentu bylo náhodně ukázáno 128vybrali fotografie a požádali je, aby určili, zda jsou skutečné nebo falešné. V průměru respondenti odpověděli správně ve 48,2 % případů. Počet chyb v klasifikaci fotografií bílých mužů byl přitom větší než v rozboru fotografií žen nebo zástupců jiných ras. Podle autorů je důvodem to, že pro strojové učení AI je k dispozici více obrázků bílých mužů, což znamená, že kvalita padělku se zvyšuje.
Druhá skupina účastníků studiepředtrénink v rozpoznávání obličeje generovaného počítačem. Byly jim ukázány příklady stop po zpracování obrazu, které by mohly naznačovat padělek. Po každé odpovědi bylo navíc účastníkům sděleno, zda obrázek zařadili správně. V tomto případě se zvýšila kvalita rozpoznávání falešných fotografií, ale pouze na 59 %.
Výzkumníci se také zeptali samostatné skupiny223 účastníků hodnotilo na stupnici od 1 do 7, jak důvěryhodní jsou podle nich lidé na snímcích. Průměrná úroveň důvěry u skutečných lidí byla 4,48 a u falešných lidí - 4,82. Rozdíl 8 % podle výzkumníků překračuje meze chyb a je významný. Zajímavé je, že tři ze čtyř nejdůvěryhodnějších lidí byli falešní, zatímco všichni čtyři nejméně důvěryhodní byli skuteční.
„Zjistili jsme, že uměle vytvořené tvářevzbuzují větší důvěru než skutečné, píší autoři studie. "Je to pravděpodobně způsobeno tím, že syntetizované tváře jsou více podobné těm průměrným, které, jak bylo prokázáno dříve, jsou považovány za spolehlivější."
Syntéza zvuku, obrazu a videa sDíky umělé inteligenci jsou speciální efekty na úrovni Hollywoodu široce dostupné. Syntetizovaná řeč, fiktivní obrázky a nahrazování jedné osoby druhou už nejsou jen zábavou, ale také příležitostí k podvodům a podvodům. „Snadný přístup k takto vysoce kvalitním falešným obrázkům povede k řadě problémů, včetně například přesvědčivějších falešných profilů na sociálních sítích, podvodů a dezinformačních kampaní s vážnými důsledky pro jednotlivce i společnost jako celek,“ uvedli vědci. Poznámka.
Přečtěte si více:
Vědci našli nejzdravější lidi na Zemi: je to všechno o jedinečném životním stylu
Nebezpečí bezplatných VPN. Proč je nelze stáhnout a jak se chránit?
Fyzici v laboratoři znovu vytvořili schopnosti T-1000 z "Terminátora-2"