Плоска Земля, антіпрівівочнікі і Місяць без американців: як YouTube став головним каналом для поширення теорій змови і містифікацій

Системи рекомендацій - одна з найпоширеніших форм штучного інтелекту, з якої

стикаються користувачі, незалежно від того, знають вони про це чи ні. Такі системи вбудовані в Facebook і Twitter - і, звичайно, в «рекомендовані відео» на YouTube.

Подібні системи вкрай складні - особливо якщомова йде про сервіси, які відвідують десятки мільйонів користувачів в день. Як і інші аналогічні нейромережі, ІІ від YouTube намагається показати користувачеві максимально релевантні відео на основі попередніх переглянутих їм роликів або даних про його інтересах, зібраних при використанні Google.

У випадку з YouTube ІІ складається з двох нейромереж - перша генерує рекомендації, а друга ранжирує їх для конкретного користувача.

Первинний відбір роликів-кандидатів на потрапляння в«Рекомендації» відбувається на основі аналізу активності користувача. Йдеться про відео, які він дивився до цього або сайтах, які відвідував. На цьому етапі нейросеть-генератор пропонує кілька сотень варіантів, які потім актуалізує для конкретної людини. Нейросеть готова відмовитися від багатьох параметрів (вік, стать, місце розташування) заради того, щоб показати користувачеві те, що він недавно дивився.

Потім в справу вступає друга нейросеть, якавідповідає за ранжування. Вона оцінює ролики-кандидати по широкому набору критеріїв і головним завданням бачить максимально високу відповідність відео інтересам користувача.

Для системи рекомендацій не має великогозначення те, що користувач пропустить деякі запропоновані ролики - адже в цілому вона враховує найважливіші для нього маркери. І на їх основі показує відео, які швидко набирають перегляди.

Система навчається безперервно - однієї мережі даєтьсяісторія активності користувача до певного часу (t), а друга мережу запитує, що користувач хотів би подивитися в момент часу (t + 1). В результаті вони отримують все більше даних і дізнаються користувача все краще і краще. Розробники ІІ для YouTube вважають, що це був один з кращих способів рекомендувати відео.

Чому YouTube показує нам конспірологічні відео

У рекомендаційної системи YouTube при всіх їїпереваги з технічної точки зору є явний етичний недолік - її основна мета полягає в тому, щоб користувач якомога довше дивився відео і, як наслідок, побачив більше реклами.

врізка

Наприклад, алгоритм бачить, що кліп відомогомузиканта швидко набирає перегляди і стає вірусним. Нейросеть починає пропонувати його користувачам, яким він може сподобається, а автоматичне відтворення відео запускає нескінченну низку рекомендацій. І ось користувач уже дивиться не музичний кліп, а ролик про те, що американці не висаджувалися на Місяць або про масонську змову.

Роботу цієї схеми добре демонструють результати опитування, проведеного на з'їзді прихильників теорії плоскої Землі. 29 з 30 учасників заявили, що дізналися про теорію з відео на YouTube.

Теорія плоскої Землі грунтується на ідеї,запропонованої в XIX столітті англійським винахідником Семюел Роуботем. Її прихильники дотримуються думки, що Земля є плоским диском діаметром 40 тис. Км, з центром в районі Північного полюса. По всьому колу диска розташовується стіна льоду, яка не дає світовому океану розтектися. Теорія говорить, що Сонце, Місяць і інші зірки обертаються над поверхнею Землі, а всі зроблені в космосі фотографії - підробка.

Єдиного респондента, який ставприхильником теорії плоскої Землі до перегляду відео на YouTube, повірив в ідею після розмов з близькими, які дізналися про неї після перегляду відео на YouTube.

YouTube є головним розповсюджувачем ідей про плоску Землю

Така схема вигідна всім учасникам: користувачі отримують нескінченну стрічку контенту, YouTube - мільйони годин переглядів, а рекламодавці - монетизацію своїх відео.

Що робить з цим YouTube

Принципи спільноти YouTube не забороняють авторамзавантажувати відео з теоріями змови або вводить в оману інформацією. Проте, відеосервіс робить точкові спроби запобігти поширенню конспірологічних теорій.

В кінці лютого сервіс заблокував кількатисяч акаунтів, які публікували відео про теоріях змови і поширювали різні містифікації. Під блокування тоді потрапили і ролики, творці яких розповідали про самостійній збірці зброї або його застосуванні. Двома місяцями раніше YouTube оголосив про збільшення штату модераторів до 10 тис. Чоловік.

Крім збільшення числа модераторів, в грудніминулого року YouTube почав показувати посилання на Вікіпедію та інші достовірні джерела при перегляді роликів з теоріями змови, щоб обмежити поширення фейковий новин і помилкових теорій в відеосервісі.

Однак система працює не ідеально - алгоритмYouTube прийняв трансляції пожежі пожежі в Нотр-Дам-де-Парі, який стався 15 квітня, за кадри палаючих веж-близнюків під час теракту в Нью-Йорку 11 вересня. Нейросеть показала користувачам статтю з Вікіпедії про теракт, в якій викладено кілька версій події - а потім модератори вручну відключили показ статті.

«Панелі зі статтями запускає алгоритм, і іноді він помиляється. Ми відключили панелі в прямих трансляціях пожежі в соборі Паризької Богоматері вручну », - сказав тоді представник YouTube.

Помилка алгоритмів YouTube під час пожежі собору Паризької Богоматері 15 квітня

Інший приклад - відео під заголовком «Будь-який ракможна вилікувати за кілька тижнів », опубліковане iHealthTube.com в кінці березня. У ньому відсутня панель з посиланням на достовірне джерело по темі ролика, при цьому відео подивилися близько 7 млн ​​разів.

Представники YouTube у відповідь на серію запитівBloomberg відмовилися пояснити, як працює система рекомендацій і наскільки дієві робляться компанією заходи по боротьбі з поширення конспірологічних відео. В цілому керівництво YouTube воліє йти від прямої відповіді на гострі питання і вважає за краще пояснювати проблеми технічними недоліками алгоритмів або халатністю співробітників, пише агентство.

YouTube може перестати розповсюджуватиконспірологічні теорії тільки в одному випадку - якщо зробити це зажадають регулятори декількох країн або великі рекламодавці. Останнім вже вдалося домогтися того, щоб відеосервіс заборонив монетизувати відео із зображенням насильства.

врізка

Якщо відео про плоску Землю, висадці США на Місяцьабо неефективності вакцинації неможливо буде монетизувати, їх число різко знизиться. Інші способи боротьби з роликами про теоріях змови чи виявляться ефективними - жоден розробник ІІ до кінця не знає, як він працює - і Google не виняток. А заново створювати рекомендаційний алгоритм, який вже довів свою працездатність, компанії немає ніякого сенсу.

У відповідь на критику пріоритетності зростання компаніїнад безпекою користувачів Facebook оголосила про намір кардинально змінити свою політику роботи з даними і алгоритмами соціальної мережі. Керівництво YouTube поки намагається пояснити свої помилки інтересами громадськості або інвесторів, а іноді і діями окремих співробітників. І для Google нездатність відеосервісу вирішити свої проблеми залишається однією з головних проблем.

Facebook Notice for EU! You need to login to view and post FB Comments!