Quel est le plan de Mozilla?
La société a annoncé une nouvelle extension pour permettre aux utilisateurs de mieux
Les recommandations YouTube peuvent être incroyablesmais aussi dangereux. La plate-forme recommande depuis longtemps du contenu malveillant à ses utilisateurs, des complots pandémiques à la désinformation politique, même s'ils ont déjà vu du contenu inoffensif.
En octobre 2019, Mozilla a publiépropre recherche sur le sujet, qui a révélé que YouTube recommandait des vidéos malveillantes contenant de la désinformation. Avec la pandémie mondiale et les prochaines élections américaines, les conséquences de ce problème sont réelles et grandissent chaque jour, a déclaré la société.
Malgré de graves conséquences, l'algorithmeLes recommandations de YouTube sont complètement mystérieuses pour les utilisateurs. Qu'est-ce que YouTube recommandera aux utilisateurs américains de regarder dans les derniers jours avant les élections? Ou dans les prochains jours, lorsque les résultats des élections risquent de ne pas être clairs?
En posant ces questions, Mozilla donneLes utilisateurs de YouTube ont la possibilité d'agir lorsque des vidéos malveillantes leur sont recommandées et de lancer RegretsReporter. Cette extension de navigateur a été créée pour collecter des recherches sur le problème des recommandations YouTube.
Pourquoi ce Mozilla ?
Les recommandations de YouTube en matière d'IA sont parmi les plus...des « conservateurs de l’information » influents sur Internet. YouTube est le deuxième site le plus visité au monde et le visionnage de vidéos basées sur son algorithme représente 70 % du temps total de visionnage sur le site. Il n’est pas exagéré de dire que YouTube a un impact significatif sur la sensibilisation du public et sa compréhension des problèmes clés à travers le monde.
Depuis des années, les gens sonnent l'alarmeYouTube recommande des vidéos contenant des théories du complot, de la désinformation et d'autres contenus malveillants. YouTube avait précédemment déclaré que la société avait progressé sur ce problème et que la plateforme avait réussi à réduire le nombre de recommandations nuisibles de 70%. Mais il est impossible de vérifier ces affirmations ou de comprendre où YouTube a encore du travail à faire.
Chaque jour pendant que YouTube les vérifiedéclarations, des vidéos telles que "Civil War Is Coming" ou "Plandemic" peuvent être proposées à de plus en plus de personnes. Mozilla a déclaré qu'il "recrutait des utilisateurs de YouTube pour devenir des chiens de garde". plates-formes. Les utilisateurs peuvent partager des données sur les recommandations qui leur sont fournies pour aider Mozilla à comprendre ce que YouTube recommande et comment rendre les systèmes de recommandation plus fiables dans leur ensemble.
Quelles informations spécifiques Mozilla souhaite-t-il divulguer ?
- Quelles vidéos recommandées contiennent du contenu raciste, violent ou conspirateur?
- Existe-t-il des modèles dans les recommandations vidéo en termes de fréquence ou de gravité du contenu malveillant?
- Existe-t-il des modèles d'utilisation spécifiques de YouTube pour lesquels un contenu préjudiciable est recommandé?
Avec ces informations, Mozilla - avecdes collègues chercheurs, des journalistes, des politiciens et même des ingénieurs YouTube - peuvent travailler à la création de systèmes plus robustes pour recommander du contenu.
En utilisant l'open source, Mozilla vapartager publiquement les résultats de l'étude et espérer que YouTube et d'autres utiliseront ces informations pour améliorer leurs produits. Suivez les mises à jour sur le site.
Comment fonctionnera la société de dénonciation YouTube?
Lorsque vous naviguez sur YouTube, la nouvelle extensionMozilla envoie automatiquement des données sur le temps que vous passez sur la plateforme sans collecter d'informations sur ce que vous regardez ou recherchez. Cela peut nous donner un aperçu de la fréquence à laquelle les utilisateurs sont indignés par les recommandations de YouTube.
L'extension du navigateur Mozilla invite l'utilisateur à saisir des données sur l'algorithme YouTube.
prt scr Mozilla
Les utilisateurs ont également la possibilité deenvoyer le rapport directement à Mozilla. Le formulaire de rapport vous demandera d'en dire plus sur les revendications YouTube et de recueillir des informations sur la vidéo que vous signalez et comment vous y êtes arrivé. Ceci est important pour comprendre comment le système de recommandation de YouTube amène les gens à regarder certaines vidéos et quel impact cela peut avoir sur elles.
C'est sur?
Tout au long de ce processus, la confidentialité des utilisateurs est de la plus haute importance pour l'entreprise, a déclaré Mozilla.
Les données collectées par Mozilla sont liées àun identifiant utilisateur généré aléatoirement plutôt qu'un compte YouTube spécifique. Seul Mozilla aura accès aux données brutes pour minimiser le risque d'identification des utilisateurs. L'extension ne collecte pas de données lorsque vous regardez des vidéos en mode privé. Des informations plus détaillées sur la confidentialité des utilisateurs sont fournies dans l'avis de confidentialité de RegretsReporter.
prt scr Mozilla
Un aspect important de la recherche
"Nous demandons aux utilisateurs de ne pas modifiervotre comportement sur YouTube lorsque vous utilisez cette extension. Ne cherchez pas spécifiquement des propos provocateurs. Utilisez plutôt YouTube comme d'habitude », explique Mozilla. À en juger par la déclaration de l’entreprise, c’est le seul moyen de comprendre « collectivement » si le problème de YouTube concernant la recommandation de contenus inappropriés est en train d’être résolu et dans quels domaines le service vidéo doit être amélioré.
Réaction de YouTube
Mozilla n'a pas d'accord formel avec Google ou YouTube pour rechercher l'algorithme de recommandation, mais Boyd dit qu'ils ont été en contact avec l'entreprise et ont l'intention de partager des informations.
YouTube, cependant, a déclaré que la méthodologie de Mozilla semble être "discutable".
Un porte-parole de YouTube a déclaré dans une déclaration à TheVérifiez que l'entreprise est toujours intéressée par la recherche de son système de recommandation. "Cependant, il est difficile de tirer des conclusions générales à partir d'exemples anecdotiques, et nous mettons constamment à jour nos systèmes de recommandation pour améliorer l'expérience utilisateur", a déclaré le porte-parole, ajoutant qu'au cours de l'année écoulée, YouTube a lancé "plus de 30 changements différents pour réduire les recommandations de contenu aux frontières".
Quel est le problème avec les algorithmes de YouTube?
Fin 2019YouTubea finalement admis que leur système de recommandationpropose du contenu malveillant. C’est un petit pas dans la bonne direction. Depuis longtemps, les algorithmes d’hébergement vidéo ont reçu de nombreuses plaintes concernant des algorithmes de recommandation douteux.
YouTube ignore les avertissements
Bloomberg rapporte que les dirigeants de YouTubea ignoré tous les avertissements, permettant aux « vidéos toxiques de se répandre ». Selon les employés de l’entreprise, les propositions visant à modifier les directives et à mettre fin aux complots ont été sacrifiées au profit de l’inclusion.
En 2018, Susan Wojcicki, chefLe dirigeant de YouTube est monté sur scène lors de la conférence South by Southwest pour défendre la plateforme. La réputation de son entreprise, qui avait été critiquée pendant des mois pour avoir promu des mensonges en ligne, a été mise à mal après la diffusion d'une vidéo partageant un site Web lié à une vidéo de théorie du complot sur la fusillade dans un lycée de Parkland, en Floride. Les auteurs de la vidéo ont affirmé que les victimes étaient des « acteurs de crise ».
Wojcicki est généralement réticent à parler avecle public, mais à la conférence d'Austin, elle a parlé pour présenter une solution qu'elle espérait aider à supprimer les théories du complot. Une petite zone de texte provenant de sites Web comme Wikipedia devrait sous des vidéos qui remettent en question la sagesse conventionnelle, comme l'atterrissage sur la lune, aidera les gens à voir la vérité.
YouTube s'efforce de dépasser la télévision enon estime qu'il reçoit annuellement plus de 16 milliards de dollars de ventes publicitaires. Mais ce jour-là, Wojcicki a comparé son site vidéo à un autre type d'établissement. «Nous sommes plus comme une bibliothèque», a-t-elle dit, prenant la position familière d'un défenseur de la liberté d'expression. "Si vous regardez les bibliothèques, il y a toujours eu une controverse."
CommentYouTube cache la vérité?
YouTube licencie des chercheurs indépendants qui souhaitent comprendre le problème des algorithmes de recommandation. La Fondation Mozilla a créé un graphique pour le prouver.
- Au début, il y avait des nouvelles que le systèmeLes recommandations de YouTube nuisent aux utilisateurs. L'algorithme a radicalisé les jeunes aux États-Unis, semé la division au Brésil, répandu la propagande parrainée par l'État à Hong Kong, etc.
- YouTube répond alors.Mais pas en admettant une erreur ou en donnant une solution détaillée. Au lieu de cela, l'entreprise publie une déclaration qui blâme et critique les méthodologies de recherche utilisées pour étudier ses recommandations, faisant de vagues promesses selon lesquelles l'entreprise « y travaille ».
- Après dans un article de blog YouTubea admis que son moteur de recommandation suggérait des contenus limites aux utilisateurs et a publié un graphique montrant qu'ils avaient consacré des ressources importantes à résoudre ce problème depuis plusieurs années.
"Ce qu'ils ne réalisent pas, c'est comment ilsse détournent et licencient les journalistes et les scientifiques qui mettent en lumière ce problème depuis des années. De plus, il reste un manque évident de données vérifiées publiquement pour étayer les affirmations de YouTube selon lesquelles ils s'attaquent au problème", a déclaré Mozilla.
En conséquence, Mozilla a publié une liste de réponsesYouTube mènera des recherches tierces sur son système de recommandation. Une chronologie publiée sur le blog de Mozilla enregistre 14 réponses – évasives ou dédaigneuses – émises sur une période de 22 mois, dans l'ordre chronologique inverse.
Principales tendances des excuses YouTube
- YouTube prétend souvent résoudre le problème en modifiant son algorithme, mais fournit peu de détails sur ce que font exactement ces paramètres.
- YouTube prétend avoir des données qui contredisent des recherches indépendantes, mais refuse de partager ces données.
- YouTube rejette les recherches indépendantes sur ce sujet comme étant erronées ou anecdotiques, mais refuse de fournir un accès tiers à ses données pour le prouver.
Dans un article de blog, YouTube a déclaré que«contenu limite» représente 1 % du contenu consulté par les utilisateurs aux États-Unis. Mais avec 500 heures de vidéo mises en ligne sur YouTube chaque minute, combien d’heures de ce type de contenu sont encore proposées aux utilisateurs ? Après avoir examiné des centaines d'histoires sur l'impact de ces vidéos sur la vie des gens au cours des derniers mois, il est clair que ce problème est trop important pour être minimisé par des statistiques qui ne donnent même pas aux experts extérieurs la possibilité de voir et d'étudier le problème dans son ensemble. entier.
Quelle est la ligne du bas?
Depuis que Wojcicki est monté sur scène pour défendreYouTube l'année dernière, de nouvelles théories du complot célèbres sont apparues sur la plateforme, notamment la vaccination des enfants; à propos du lien d'Hillary Clinton avec un culte satanique, qui a mis en colère les législateurs cherchant à réglementer les entreprises technologiques. Un an plus tard, YouTube est devenu encore plus associé au darknet. Le nouveau plan de Mozilla pour traiter le contenu inapproprié aidera peut-être à clarifier la manière dont les recommandations sont générées. Dans tous les cas, le nouveau développement soulève à nouveau la question importante de la manipulation de l'opinion publique à travers les réseaux sociaux et les médias.
Lisez aussi
Le glacier Doomsday s'est avéré plus dangereux que les scientifiques ne le pensaient. Nous disons l'essentiel
Deux éléments de preuve de la vie extraterrestre ont émergé à la fois. L'un sur Vénus, l'autre - personne ne sait où
Les véhicules hybrides sont plus dangereux pour l'environnement que les véhicules diesel. Nous disons l'essentiel