Vad är Mozillas plan?
Företaget tillkännagav en ny förlängning för att göra det möjligt för användare att bli bättre
YouTube-rekommendationer kan vara fantastiskamen också farligt. Plattformen har länge rekommenderat skadligt innehåll till sina användare, från pandemikonspirationer till politisk desinformation, även om de tidigare har sett oskadligt innehåll.
I oktober 2019 publicerade Mozillaegen forskning om ämnet, som fann att YouTube rekommenderade skadliga videor som innehöll felinformation. Med den globala pandemin och det kommande amerikanska valet är konsekvenserna av detta problem verkliga och växer varje dag, säger företaget.
Trots allvarliga konsekvenser, algoritmenYouTubes rekommendationer är helt mystiska för användarna. Vad kommer YouTube att rekommendera för amerikanska användare att titta på de sista dagarna före valet? Eller under de kommande dagarna, när valresultatet kan vara oklart?
Genom att ställa dessa frågor ger MozillaYouTube-användare möjligheten att agera när skadliga videor rekommenderas till dem och starta RegretsReporter. Det här webbläsartillägget skapades för att undersöka YouTubes rekommendationsproblem.
Varför är detta Mozilla?
YouTubes AI-rekommendationer är en av de mest...inflytelserika "informationskuratorer" på Internet. YouTube är den näst mest besökta webbplatsen i världen och att titta på videor baserade på dess algoritm står för 70 % av den totala visningstiden på webbplatsen. Det är ingen överdrift att säga att YouTube har en betydande inverkan på allmänhetens medvetenhet och förståelse för nyckelfrågor runt om i världen.
I åratal har människor larmat omYouTube rekommenderar videor som innehåller konspirationsteorier, desinformation och annat skadligt innehåll. YouTube uppgav tidigare att företaget har gjort framsteg i denna fråga och plattformen har lyckats minska antalet skadliga rekommendationer med 70%. Men det är omöjligt att verifiera dessa påståenden eller förstå var YouTube fortfarande har arbete att göra.
Varje dag medan YouTube kontrollerar dessauttalanden, videor som "Civil War Is Coming" eller "Plandemic" kan erbjudas till allt fler. Mozilla sa att det «rekryterar YouTube-användare för att bli vakthundar» plattformar. Människor kan dela data om rekommendationer som de fått för att hjälpa Mozilla att förstå vad YouTube rekommenderar och hur man gör rekommendationssystem mer tillförlitliga överlag.
Vilken specifik information vill Mozilla avslöja?
- Vilka rekommenderade videor innehåller rasistiskt, våldsamt eller konspirativt innehåll?
- Finns det mönster i videorekommendationer när det gäller frekvens eller svårighetsgrad av skadligt innehåll?
- Finns det specifika YouTube-användningsmönster för vilka skadligt innehåll rekommenderas?
Med denna information, Mozilla - tillsammans medmedforskare, journalister, politiker och till och med YouTube-ingenjörer - kan arbeta för att bygga mer robusta system för att rekommendera innehåll.
Genom att använda öppen källkod kommer Mozilla att göra detdela resultaten av studien offentligt och hoppas att YouTube och andra kommer att använda denna information för att förbättra sina produkter. Följ uppdateringarna på hemsidan.
Hur fungerar YouTube-whistleblowing-företaget?
När du surfar på YouTube, det nya tilläggetMozilla skickar automatiskt data om hur mycket tid du spenderar på plattformen utan att samla in information om vad du tittar på eller letar efter. Detta kan ge oss en viss inblick i hur ofta användare är upprörda över YouTubes rekommendationer.
Mozilla-webbläsartillägget uppmanar användaren att ange data om YouTube-algoritmen.
prt scr Mozilla
Användare har också möjlighet attskicka rapporten direkt till Mozilla. Rapporteringsformuläret ber dig berätta mer om YouTubes anspråk och samla information om videon du rapporterar och hur du kom till den. Detta är viktigt för att förstå hur YouTubes rekommendationssystem får folk att titta på vissa videor och vilken inverkan det kan ha på dem.
Det är säkert?
Under hela denna process är användarnas integritet av yttersta vikt för företaget, sa Mozilla.
Datan som Mozilla samlar in är relaterad tillett slumpmässigt genererat användar-ID snarare än ett specifikt YouTube-konto. Endast Mozilla kommer att ha tillgång till rådata för att minimera risken för att identifiera användare. Tillägget samlar inte in data när du tittar på videor i privat läge. Mer detaljerad information om användarnas integritet finns i RegretsReporters sekretessmeddelande.
prt scr Mozilla
En viktig aspekt av forskningen
"Vi ber användarna att inte ändra sigditt beteende på YouTube när du använder det här tillägget. Leta inte specifikt efter provocerande. Använd istället YouTube som vanligt”, förklarar Mozilla. Att döma av företagets uttalande är detta det enda sättet att "kollektivt" förstå om YouTubes problem med att rekommendera olämpligt innehåll löses och på vilka områden videotjänsten behöver förbättras.
YouTube-reaktion
Mozilla har inget formellt avtal med Google eller YouTube för att undersöka rekommendationsalgoritmen, men Boyd säger att de har varit i kontakt med företaget och tänker dela information.
YouTube sa dock att Mozillas metod verkar vara "tvivelaktig".
En YouTube-talesman sa i ett uttalande till TheVerge att företaget alltid är intresserad av att undersöka sitt rekommendationssystem. "Det är dock svårt att dra allmänna slutsatser från anekdotiska exempel, och vi uppdaterar ständigt våra rekommendationssystem för att förbättra användarupplevelsen", sade talesmannen och tillade att YouTube under det senaste året har lanserat "mer än 30 olika ändringar av minska rekommendationer om gränsinnehåll ”.
Vad är fel med YouTubes algoritmer?
I slutet av 2019YouTubeslutligen medgav att deras rekommendationssystemerbjuder skadligt innehåll. Det här är ett litet steg i rätt riktning. Under lång tid har videohostingalgoritmer fått många klagomål på tvivelaktiga rekommendationsalgoritmer.
YouTube ignorerar varningar
Bloomberg rapporterar att YouTube-cheferignorerade alla varningar, vilket tillät "giftiga videor att springa ut." Enligt företagets anställda offrades förslag om att ändra riktlinjer och stoppa konspirationer för inkludering.
Redan 2018, Susan Wojcicki, chefYouTubes chef intog scenen under South by Southwest-konferensen för att försvara plattformen. Hennes företags rykte, som hade kritiserats i flera månader för att främja falskheter på nätet, fick en träff efter att en video som delade en webbplats länkad till en konspirationsteorivideo om skjutningen på gymnasiet i Parkland, Florida, cirkulerades. Författarna till videon gjorde anspråk på att offren var "krisaktörer".
Wojcicki är generellt ovillig att prata medallmänheten, men vid en konferens i Austin talade hon för att presentera en lösning som hon hoppades skulle hjälpa till att undertrycka konspirationsteorier. En liten textruta från webbplatser som Wikipedia borde vara under videor som ifrågasätter konventionell visdom, som månlandning, för att hjälpa människor att se sanningen.
YouTube strävar efter att köra tv genomberäknas få över 16 miljarder dollar från reklamförsäljning årligen. Men den dagen jämförde Wojcicki sin videosida med en annan typ av anläggning. "Vi är mer som ett bibliotek", sa hon och tog den välbekanta positionen som en förespråkare för yttrandefrihet. "Om du tittar på bibliotek har det alltid varit kontroverser."
HurYouTube döljer sanningen?
YouTube sparkar oberoende forskare som vill förstå problemet med rekommendationsalgoritmer. Mozilla Foundation skapade en graf för att bevisa detta.
- I början fanns det nyheter om att systemetYouTube-rekommendationer skadar användarna. Algoritmen har radikaliserat unga människor i USA, sådd uppdelning i Brasilien, spridit statligt sponsrad propaganda i Hong Kong och mer.
- YouTube svarar sedan.Men inte genom att erkänna ett misstag eller ge en detaljerad lösning. Istället utfärdar företaget ett uttalande som skyller på och kritiserar de forskningsmetodik som används för att studera deras rekommendationer, och ger vaga löften om att företaget «jobbar på det».
- Efter i ett blogginlägg YouTubemedgav att deras rekommendationsmotor föreslog gränsöverskridande innehåll för användare och publicerade en graf som visade att de hade ägnat betydande resurser åt att lösa detta problem i flera år.
"Vad de inte inser är hur deskyr och sparkar journalister och vetenskapsmän som har lyft fram detta problem i flera år. Dessutom finns det fortfarande en tydlig brist på offentligt verifierad data för att stödja YouTubes påståenden att de tar itu med problemet, säger Mozilla.
Som ett resultat publicerade Mozilla en lista med svarYouTube kommer att utföra undersökningar från tredje part om sitt rekommendationssystem. En tidslinje som publicerats på Mozillas blogg registrerar 14 svar – undvikande eller avvisande – utfärdade under en 22-månadersperiod, i omvänd kronologisk ordning.
Topptrender i YouTube-ursäkter
- YouTube påstår sig ofta lösa problemet genom att ändra algoritmen, men ger lite detaljer om vad exakt dessa inställningar gör.
- YouTube påstår sig ha data som strider mot oberoende forskning, men vägrar att dela dessa uppgifter.
- YouTube avvisar oberoende forskning om detta ämne som felaktig eller anekdotisk, men vägrar att ge tredjepartsåtkomst till sina uppgifter för att bekräfta detta.
I ett blogginlägg uppgav YouTube det«gränssnittsinnehåll» står för 1 % av innehållet som visas av användare i USA. Men med 500 timmars video uppladdad till YouTube varje minut, hur många timmar av sådant innehåll erbjuds användarna fortfarande? Efter att ha granskat hundratals berättelser om effekterna av dessa videor på människors liv under de senaste månaderna, står det klart att denna fråga är för viktig för att minimeras av statistik som inte ens ger externa experter möjlighet att se och studera problemet som en hela.
Vad är slutresultatet?
Ända sedan Wojcicki tog scenen och försvaradeYouTube förra året dök nya berömda konspirationsteorier upp på plattformen, inklusive vaccinering av barn; om Hillary Clintons anslutning till en satanisk kult, vilket har ilskat lagstiftare som försöker reglera teknikföretag. Ett år senare blev YouTube ännu mer associerat med darknet. Kanske Mozillas nya plan för att hantera olämpligt innehåll kommer att hjälpa till att klargöra hur rekommendationer genereras. Om något, den nya utvecklingen tar upp den viktiga frågan om att manipulera allmänheten genom sociala nätverk och media.
Läs också
Doomsday-glaciären visade sig vara farligare än forskare trodde. Vi berättar det viktigaste
Två bevis på utomjordiskt liv uppstod på en gång. En på Venus, den andra - ingen vet var
Hybridfordon är mer miljöfarliga än dieselfordon. Vi berättar det viktigaste