Плоска Земля, антіпрівівочнікі і Місяць без американців: як YouTube став головним каналом для поширення теорій змови і містифікацій

Рекомендаційні системи є однією з найпоширеніших форм штучного інтелекту, за допомогою якої

Користувачі стикаються з цим, незалежно від того, усвідомлюють вони це чи ні.Такі системи вбудовані в Facebook і Twitter — і, звичайно ж, в «запропоновані відео» на YouTube.

Такі системи надзвичайно складні, особливо якщо мова йде про сервіси, які відвідуютьсяЯк і інші подібні нейронні мережі, ШІ відYouTube намагається показувати вам найрелевантніші відео на основі попередніх переглянутих відео або ваших інтересів, зібраних через Google.

У випадку з YouTube ШІ складається з двох нейронних мереж — перша генеруєрекомендації, а другий ранжує їх для конкретного користувача.

Первинний відбір роликів-кандидатів на потрапляння в«Рекомендації» відбувається на основі аналізу активності користувача. Йдеться про відео, які він дивився до цього або сайтах, які відвідував. На цьому етапі нейросеть-генератор пропонує кілька сотень варіантів, які потім актуалізує для конкретної людини. Нейросеть готова відмовитися від багатьох параметрів (вік, стать, місце розташування) заради того, щоб показати користувачеві те, що він недавно дивився.

Потім в справу вступає друга нейросеть, якавідповідає за ранжування. Вона оцінює ролики-кандидати по широкому набору критеріїв і головним завданням бачить максимально високу відповідність відео інтересам користувача.

Для системи рекомендацій не має великогозначення те, що користувач пропустить деякі запропоновані ролики - адже в цілому вона враховує найважливіші для нього маркери. І на їх основі показує відео, які швидко набирають перегляди.

Система навчається безперервно - однієї мережі даєтьсяісторія активності користувача до певного часу (t), а друга мережу запитує, що користувач хотів би подивитися в момент часу (t + 1). В результаті вони отримують все більше даних і дізнаються користувача все краще і краще. Розробники ІІ для YouTube вважають, що це був один з кращих способів рекомендувати відео.

Чому YouTube показує нам конспірологічні відео

Рекомендаційна система YouTube, при всіх своїх перевагах з технічної точки зору, має явний етичний недолік — її основне призначення полягає в тому, щобполягає в тому, щоб користувач якомога довше дивився відео і, як наслідок, бачив більше реклами.

врізка

Наприклад, алгоритм бачить, що кліп відомого музиканта швидко набирає перегляди і стає вірусним.Нейромережа починає пропонувати його користувачам, яким це може сподобатися, і автоматично відтворює відеоІ ось користувач вже дивитьсяне музичний кліп, а ролик про те, що американці не висадилися на Місяць або про масонську змову.

Роботу цієї схеми добре показують результати опитування, проведеного на з'їзді прихильників теорії плоскої Землі. 29 із 30 учасників заявили, що дізналися про теорію з відео на YouTube.

Теорія плоскої Землі ґрунтується на ідеї,запропонованої в XIX столітті англійським винахідником Семюел Роуботем. Її прихильники дотримуються думки, що Земля є плоским диском діаметром 40 тис. км, із центром у районі Північного полюса. По всьому колу диска розташовується стіна льоду, яка не дає світовому океану розтектися. Теорія говорить, що Сонце, Місяць та інші зірки обертаються над поверхнею Землі, а всі зроблені в космосі фотографії - підробка.

Єдиного респондента, який ставприхильником теорії плоскої Землі до перегляду відео на YouTube, повірив в ідею після розмов з близькими, які дізналися про неї після перегляду відео на YouTube.

YouTube є головним розповсюджувачем ідей про плоску Землю

Така схема вигідна всім учасникам: користувачі отримують нескінченну стрічку контенту, YouTube – мільйони переглядів, а рекламодавці – монетизацію своїх відео.

Що робить з цим YouTube

Принципи спільноти YouTube не забороняють авторамзавантажувати відео з теоріями змови або вводить в оману інформацією. Проте, відеосервіс робить точкові спроби запобігти поширенню конспірологічних теорій.

В кінці лютого сервіс заблокував кількатисяч акаунтів, які публікували відео про теоріях змови і поширювали різні містифікації. Під блокування тоді потрапили і ролики, творці яких розповідали про самостійній збірці зброї або його застосуванні. Двома місяцями раніше YouTube оголосив про збільшення штату модераторів до 10 тис. Чоловік.

Крім збільшення числа модераторів, в грудніминулого року YouTube почав показувати посилання на Вікіпедію та інші достовірні джерела при перегляді роликів з теоріями змови, щоб обмежити поширення фейковий новин і помилкових теорій в відеосервісі.

Однак система працює не ідеально – алгоритмYouTube прийняв трансляції пожежі пожежі в Нотр-Дам-де-Парі, яка сталася 15 квітня, за кадри веж-близнюків, що горять, під час теракту в Нью-Йорку 11 вересня. Нейросеть показала користувачам статтю з Вікіпедії про теракт, в якій викладено кілька версій події - а потім модератори вручну відключили показ статті.

«Панелі зі статтями запускає алгоритм, і іноді він помиляється. Ми відключили панелі в прямих трансляціях пожежі в соборі Паризької Богоматері вручну », - сказав тоді представник YouTube.

Помилка алгоритмів YouTube під час пожежі собору Паризької Богоматері 15 квітня

Інший приклад - відео під заголовком «Будь-який ракможна вилікувати за кілька тижнів », опубліковане iHealthTube.com в кінці березня. У ньому відсутня панель з посиланням на достовірне джерело по темі ролика, при цьому відео подивилися близько 7 млн ​​разів.

Представники YouTube у відповідь на серію запитівBloomberg відмовилися пояснити, як працює система рекомендацій і наскільки дієві робляться компанією заходи по боротьбі з поширення конспірологічних відео. В цілому керівництво YouTube воліє йти від прямої відповіді на гострі питання і вважає за краще пояснювати проблеми технічними недоліками алгоритмів або халатністю співробітників, пише агентство.

YouTube може перестати поширюватиконспірологічні теорії лише в одному випадку — якщо це зробити вимагатимуть регулятори кількох країн або великі рекламодавці. Останнім уже вдалося досягти того, щоб відеосервіс заборонив монетизувати відео із зображенням насильства.

врізка

Якщо відео про плоску Землю, висадці США на Місяцьабо неефективності вакцинації неможливо буде монетизувати, їх число різко знизиться. Інші способи боротьби з роликами про теоріях змови чи виявляться ефективними - жоден розробник ІІ до кінця не знає, як він працює - і Google не виняток. А заново створювати рекомендаційний алгоритм, який вже довів свою працездатність, компанії немає ніякого сенсу.

У відповідь на критику пріоритетності зростання компаніїнад безпекою користувачів Facebook оголосила про намір кардинально змінити свою політику роботи з даними і алгоритмами соціальної мережі. Керівництво YouTube поки намагається пояснити свої помилки інтересами громадськості або інвесторів, а іноді і діями окремих співробітників. І для Google нездатність відеосервісу вирішити свої проблеми залишається однією з головних проблем.