Flat Earth, anti-očkování a měsíc bez Američanů: jak se YouTube stal hlavním kanálem pro šíření konspiračních teorií a podvodů

Systémy doporučení jsou jednou z nejběžnějších forem umělé inteligence, se kterou

uživatelé čelí, bez ohledu na to, zda o tom vědí nebo ne. Takové systémy jsou zabudovány ve službě Facebook a Twitter - a samozřejmě v „doporučených videích“ na YouTube.

Takové systémy jsou velmi složité - zejména pokudhovoříme o službách, které denně navštíví desítky milionů uživatelů. Podobně jako jiné podobné neuronové sítě, AI z YouTube se snaží ukázat uživateli nejrelevantnější videa na základě předchozích videí, které si prohlížel, nebo na základě jeho zájmů shromážděných pomocí Google.

V případě YouTube se AI skládá ze dvou neuronových sítí - první generuje doporučení a druhá hodnotí konkrétní uživatele.

Počáteční výběr uchazečů o vstup do EU. \ T"Doporučení" je založena na analýze aktivity uživatele. Toto je video, které sledoval, nebo stránky, které navštívil. V této fázi nabízí neuronový generátor několik stovek možností, které jsou pak aktualizovány pro konkrétní osobu. Neuronová síť je připravena opustit mnoho parametrů (věk, pohlaví, umístění), aby ukázala uživateli, co nedávno sledoval.

Pak přichází druhá neuronová síť, kterázodpovědný za hodnocení. Kandidátská videa hodnotí na široké škále kritérií a považuje za hlavní úkol nejvyšší shodu videa se zájmy uživatele.

Pro doporučení systém nemá mocto znamená, že uživatel bude chybět některé z navrhovaných videí - obecně, bere v úvahu nejdůležitější značky pro něj. A na základě nich ukazuje videa, která rychle získávají názory.

Systém je průběžně školen - je dána jedna síťhistorie aktivity uživatele až do určitého času (t) a druhá síť se zeptá, co by uživatel rád viděl v časovém bodě (t + 1). Výsledkem je, že získávají více dat a lépe a lépe poznají uživatele. Vývojáři AI pro YouTube věří, že to byl jeden z nejlepších způsobů, jak doporučit video.

Proč nám YouTube zobrazuje konspirační videa

Systém doporučování YouTube se všemi jeho funkcemiz technického hlediska existuje jasná etická chyba - jejím hlavním cílem je, aby uživatel video sledoval co nejdéle a v důsledku toho vidí více reklamy.

Boční panel

Algoritmus například vidí, že klip známéhoHudebník rychle získává názory a stává se virovým. Neuronová síť ji nabízí uživatelům, kteří by si to mohli přát, a automatické přehrávání videa spustí nekonečnou řadu doporučení. A teď se uživatel nedívá na hudební video, ale na video o tom, že Američané neletěli na Měsíci nebo o zednářském spiknutí.

Práce tohoto schématu je dobře doložena výsledky průzkumu, který byl proveden na kongresu příznivců teorie ploché Země. 29 z 30 účastníků uvedlo, že se teorii naučili z videa na YouTube.

Teorie plochých zemin je založena na myšlencenavrhl v XIX století anglický vynálezce Samuel Roubotem. Jeho příznivci jsou toho názoru, že Země je plochý disk o průměru 40 tisíc km, soustředěný na severním pólu. Na celém obvodu disku je ledová stěna, která neumožňuje šíření světového oceánu. Teorie říká, že Slunce, Měsíc a další hvězdy se otáčejí nad zemským povrchem a všechny fotografie pořízené ve vesmíru jsou falešné.

Jediný respondent, který se stalzastánce teorie plochých zemin před sledováním videa na YouTube věřil v myšlenku po rozhovoru s příbuznými, kteří se o ní dozvěděli po sledování videa na YouTube.

YouTube je hlavním distributorem myšlenek o ploché Zemi.

Toto schéma je přínosem pro všechny účastníky: uživatelé dostávají nekonečnou pásku obsahu, YouTube přijímá miliony hodin sledování a inzerenti dostávají monetizaci svých videí.

Co dělá tento YouTube?

Pokyny pro komunitu YouTube nezakazují autoryStáhněte si videa s konspiračními teoriemi nebo zavádějícími informacemi. Nicméně video služba se pokouší zabránit šíření konspiračních teorií.

Koncem února byla služba zablokovánatisíce účtů, které publikovaly videa o konspiračních teoriích a šířily různé podvody. Pod zámkem pak přišly a videa, jejichž tvůrci mluvili o sebevybavení zbraní nebo jejich použití. O dva měsíce dříve, YouTube oznámil zvýšení počtu moderátorů na 10 tisíc lidí.

Kromě zvýšení počtu moderátorů, v prosinciV minulém roce začal YouTube zobrazovat odkazy na Wikipedii a další spolehlivé zdroje, když sledoval videa s konspiračními teoriemi, aby omezil šíření falešných zpráv a falešných teorií ve video službě.

Systém však nefunguje dokonale - algoritmusYouTube obdržela požární vysílání oheň v Notre Dame de Paris, který nastal 15. dubna, pro obrazy hořících dvojčat během teroristického útoku 11. září v New Yorku. Neuronová síť ukázala uživatelům článek z Wikipedie o útoku, který uvádí několik verzí události - a pak moderátoři článek ručně vypnuli.

„Panely s články začínají algoritmus a někdy se mýlí. Vypnuli jsme panely v přímém přenosu ohně v katedrále Notre Dame ručně, “řekl zástupce YouTube.

Chyba algoritmů YouTube v ohni katedrály Notre Dame 15. dubna

Dalším příkladem je video s názvem „Any Cancerlze vyléčit během několika týdnů, “zveřejnila iHealthTube.com koncem března. Chybí panel s odkazem na spolehlivý zdroj na téma videa, zatímco video bylo zobrazeno asi 7 milionů krát.

Zástupci YouTube reagují na řadu žádostíBloomberg odmítl vysvětlit, jak funguje systém doporučení a jak účinná jsou opatření přijatá společností v boji proti šíření konspiračních videí. Vedení YouTube obecně upřednostňuje vyhnout se přímým odpovědím na citlivé otázky a upřednostňuje vysvětlit problémy s technickými nedostatky algoritmů nebo nedbalostí zaměstnanců, píše agentura.

YouTube může přestat distribuovatteorií spiknutí pouze v jednom případě - pokud to požadují regulátoři několika zemí nebo velcí inzerenti. Posledně uvedenému se již podařilo zajistit, že video služba zakáže zpeněžení videa zobrazujícího násilí.

Boční panel

Pokud se video o ploše Země, přistání USA na Měsícinebo neefektivnost očkování nebude možné zpeněžit, jejich počet dramaticky poklesne. Jiné způsoby řešení konspiračních teorií se sotva ukáží jako efektivní - ne jediný vývojář AI ví, jak to funguje - a Google není výjimkou. A znovu vytvořit doporučující algoritmus, který již prokázal svou efektivitu, nemá smysl.

V reakci na kritiku priority růstu společnostio bezpečnosti uživatelů Facebook oznámil záměr radikálně změnit svou politiku práce s algoritmy datových a sociálních sítí. Vedení YouTube se stále snaží vysvětlovat své chyby se zájmy veřejnosti nebo investorů a někdy i činností jednotlivých zaměstnanců. A pro společnost Google zůstává neschopnost video služeb vyřešit jejich problémy jedním z hlavních problémů.