У чому полягає план Mozilla?
Компанія анонсувала нове розширення, щоб дозволити користувачам краще
Рекомендації YouTube можуть бути чудовими,але також і небезпечними. Платформа вже давно рекомендує своїм користувачам шкідливий контент - від змов про пандемії до політичної дезінформації, навіть якщо вони раніше переглядали нешкідливий контент.
У жовтні 2019 року Mozilla опублікувалавласне дослідження по цій темі, в якому з'ясувалося, що YouTube рекомендував шкідливі відео, що включають дезінформацію. В умовах глобальної пандемії і наближення виборів в США наслідки цієї проблеми реальні і ростуть з кожним днем, заявили в компанії.
Незважаючи на серйозні наслідки, алгоритмрекомендацій YouTube абсолютно загадковий для користувачів. Що YouTube порекомендує користувачам в США подивитися в останні дні перед виборами? Або в найближчі дні, коли результати виборів можуть бути неясними?
Задаючись цими питаннями, Mozilla даєкористувачам YouTube можливість діяти, коли їм рекомендують шкідливі відео та запускає RegretsReporter. Це розширення для браузера створено для краудсорсингового дослідження проблеми рекомендацій YouTube.
Навіщо це Mozilla?
ІІ-рекомендації YouTube - один із самихнайвпливовіших «кураторів інформації» в Інтернеті. YouTube є другим найбільш відвідуваним сайтом у світі, і перегляд відео на основі його алгоритм складає 70% від загального часу перегляду на сайті. Не буде перебільшенням сказати, що YouTube суттєво впливає на обізнаність та розуміння громадськості ключових проблем у всьому світі.
Протягом багатьох років люди б'ють на сполох з приводутого, що YouTube рекомендує відео, що включають в себе теорії змови, дезінформацію і інший шкідливий контент. Раніше YouTube заявляла, що компанія домоглася прогресу в цьому питанні і платформі вдалося сокртіть кількість шкідливих рекомендацій на 70%. Але неможливо перевірити ці твердження або зрозуміти, де YouTube ще є над чим попрацювати.
З кожним днем, поки YouTube перевіряє цітвердження, такі відео, як "Civil War Is Coming" або "Plandemic", можуть бути запропоновані дедалі більшій кількості людей. Як заявили в Mozilla, вони набирають користувачів YouTube, щоб ті стали сторожовими псами. платформи. Люди можуть передавати дані рекомендацій, що їм надаються, щоб допомогти Mozilla зрозуміти, що рекомендує YouTube і як зробити системи рекомендацій в цілому більш надійними.
Яку конкретно інформацію хоче розкрити Mozilla?
- Які рекомендовані відео містять матеріали расистського, насильницького чи конспіративного характеру?
- Чи існують закономірності рекомендацій відео з точки зору частоти або серйозності шкідливого контенту?
- Чи існують певні шаблони використання YouTube, за якими рекомендується шкідливий контент?
Володіючи цією інформацією, Mozilla - разом зколегами-дослідниками, журналістами, політиками і навіть інженерами YouTube - може працювати над створенням більш надійних систем для рекомендації контенту.
Використовуючи відкритий вихідний код, Mozilla будепублічно ділитися результатами дослідження та сподіватися, що YouTube та інші будуть використовувати цю інформацію для покращення своїх продуктів. Слідкуйте за оновленнями на сайті.
Як буде працювати компанія по викриттю YouTube?
Коли ви переглядаєте YouTube, нове розширенняMozilla автоматично відправляє дані про те, скільки часу ви проводите на платформі, що не збираючи ніякої інформації про те, що ви дивитеся або шукаєте. Це може дати нам деяке уявлення про те, як часто користувачів обурюють рекомендації YouTube.
Розширення браузера Mozilla пропонує користувачеві вводити дані про алгоритм YouTube.
prt scr Mozilla
У користувачів також є можливість можетевідправити звіт безпосередньо Mozilla. У формі звіту вам буде запропоновано розповісти більше про претензії до YouTube і зібрати інформацію про відео, про яке ви повідомляєте, а також про те, як ви прийшли до нього. Це важливо для розуміння того, як система рекомендацій YouTube змушує людей дивитися певні відео і який вплив вона може на них надати.
Це безпечно?
Протягом усього цього процесу конфіденційність користувачів має першорядне значення для компанії, запевнили в Mozilla.
Дані, які збирає Mozilla, пов'язані звипадково згенерованим ідентифікатором користувача, а не з конкретним обліковим записом YouTube. Тільки Mozilla матиме доступ до необроблених даних, щоб зменшити ризик ідентифікації користувачів. Розширення не збирає дані під час перегляду відео в приватному режимі. Більш детальна інформація про конфіденційність користувачів надана в повідомленні про конфіденційність RegretsReporter.
prt scr Mozilla
Важливий аспект дослідження
«Ми просимо користувачів не змінюватисвою поведінку на YouTube при використанні цього розширення. Не шукайте спеціально провокаційні. Замість цього використовуйте YouTube, як завжди» - пояснює Mozilla. Судячи з заяви компанії, це єдиний спосіб, яким допоможе «колективно» зрозуміти, чи вирішується проблема YouTube з рекомендаціями невідповідного контенту і в яких областях відеосервісу варто покращити роботу.
реакція YouTube
Mozilla не має формальної угоди з Google або YouTube для дослідження алгоритму рекомендацій, але Бойд каже, що вони спілкувалися з компанією і мають намір ділитися інформацією.
YouTube, проте, заявив, що методологія, запропонована Mozilla, здається «сумнівною».
Представник YouTube сказав в заяві TheVerge, що компанія завжди зацікавлена в дослідженнях своєї системи рекомендацій. «Однак складно зробити загальні висновки з анекдотичних прикладів, і ми постійно оновлюємо наші системи рекомендацій, щоб поліпшити досвід користувачів», - заявив представник, додавши, що за останній рік YouTube запустив «більше 30 різних змін, щоб зменшити рекомендації прикордонного змісту».
Що не так з алгоритмами YouTube?
Наприкінці 2019 рокуYouTubeнарешті визнав, що їхня система рекомендаційпропонує шкідливий контент. Це невеликий крок у правильному напрямку. Протягом тривалого часу алгоритмам відеохостингу надходило безліч претензій щодо сумнівних рекомендаційних алгоритмів.
YouTube ігнорує попередження
Як повідомляє Bloomberg, керівники YouTubeпроігнорували усі попередження, дозволивши «токсичним відео розгулятися». За словами співробітників компанії, пропозиції про зміну рекомендацій і припинення змов були принесені в жертву залучення.
Ще в 2018 році Сьюзан Войчицькі, головнийвиконавчий директор YouTube вийшов на сцену під час конференції South by Southwest, щоб захищати платформу. Репутація її компанії, яку місяцями раніше критикували за розпалювання брехні в Інтернеті, похитнулася після поширення на хостингу відео, пов'язаного з відео з теорією змови про стрілянину в середній школі Паркленда, штат Флорида. Автори відео стверджували, що жертвами були «кризові актори».
Войчицька взагалі неохоче виступає згромадськістю, але на конференції в Остіні вона виступила, щоб представити рішення, яке, як вона сподівалася, допоможе придушити теорії змови. Крихітна текстове поле з таких веб-сайтів, як Wikipedia має під відео, які ставлять під сумнів загальноприйняті факти, такі як висадка на Місяць, допоможуть людям глядачам правду.
YouTube, який прагне обігнати телебачення, пооцінками, отримує від продажів реклами більше 16 мільярдів доларів на рік. Але в той день Войчицька порівняла свій відеосайт з закладом іншого типу. «Ми більше схожі на бібліотеку», - заявила вона, зайнявши знайому позицію захисника свободи слова. «Якщо поглянути на бібліотеки, завжди були суперечки».
ЯкYouTube приховує правду?
YouTube звільняє незалежних дослідників, які хочуть розібратися у проблемі рекомендаційних алгоритмів. Mozilla Foundation створили графік, щоб довести це.
- На початку з'явилася новина про те, що системарекомендацій YouTube завдає шкоди користувачам. Алгоритм радикалізував молодих людей в США, посіяв поділ в Бразилії, поширив спонсоровану державою пропаганду в Гонконзі і багато іншого.
- Потім YouTube відповідає.Але не шляхом визнання помилки чи докладного рішення. Натомість компанія робить заяву, в якій звинувачуються та критикуються дослідницькі методології, використані для вивчення їх рекомендацій, звучать невизначені обіцянки, що в компанії «працюють над цим».
- Після у повідомленні в блозі YouTubeвизнав, що їх механізм рекомендацій пропонував користувачам прикордонний контент і опублікував графік, що показує, що вони виділяли значні ресурси на вирішення цієї проблеми протягом декількох років.
«Чого вони не усвідомлюють, так це того, як вониухиляються та звільняють журналістів та вчених, які роками підкреслювали цю проблему. Крім того, як і раніше очевидна відсутність публічно перевірених даних, що підтверджують заяви YouTube про те, що вони вирішують проблему», заявили в Mozilla
У результаті Mozilla опублікувала список відповідейYouTube на стороннє дослідження власної системи рекомендацій. У тимчасовій шкалі, опублікованій у блозі Mozilla записано 14 відповідей - уникливих або зневажливих - випущених за 22 місяці у зворотному хронологічному порядку.
Основні тенденції в виправдань YouTube
- YouTube часто заявляє, що вирішує проблему, змінюючи свій алгоритм, але майже не надає подробиць про те, що саме ці настройки роблять.
- YouTube стверджує, що має в своєму розпорядженні даними, які спростовують незалежні дослідження, але відмовляється ділитися цими даними.
- YouTube відхиляє незалежні дослідження по цій темі як помилкові або анекдотичні, але відмовляється надати стороннім особам доступ до своїх даних, щоб підтвердити це.
У повідомленні для блогу YouTube заявив, що«прикордонний контент» становить частку 1% контенту, перегляданого користувачами США. Але з 500 годинами відео, що завантажуються на YouTube щохвилини, скільки годин такого контенту все ще пропонується користувачам? Вивчивши сотні історій про вплив цих відеороликів на життя людей за останні місяці, стає очевидним, що ця проблема надто важлива, щоб її можна було применшити статистикою, яка навіть не дає стороннім експертам можливості побачити та вивчити проблему загалом.
Що в підсумку?
З тих пір, як Войчицька вийшла на сцену, захищаючиYouTube в минулому році, на платформі з'явилися нові відомі теорії змови, в тому числі про вакцинацію дітей; про зв'язок Хілларі Клінтон з сатанинським культом, що викликало гнів законодавців, які прагнуть регулювати технологічні компанії. А рік потому YouTube став ще більше асоціюватися з даркнета. Можливо, новий план Mozilla по боротьбі з небажаним контентом допоможе з'ясувати, як формуються рекомендації. У всякому разі, нова розробка заново піднімає важливе питання про маніпулювання громадською думкою за допомогою соціальних мереж і медіа.
Читати також
Льодовик «Судного дня» виявився небезпечніше, ніж думали вчені. розповідаємо головне
З'явилося відразу два докази позаземного життя. Одне на Венері, інше - невідомо де
Гібридні автомобілі небезпечніше для екології, ніж дизельні. розповідаємо головне