Experiment "VKontakte" kommer att träna AI att känna igen förolämpningar i kommentarer

Om 24 timmar kommer VKontakte att testa två nya funktioner. Enligt utvecklarna kommer innovationen att hjälpa

plattformsanvändare är mindre benägna att stöta påmed olika typer av intolerans. Vi pratar bland annat om förföljelse på grund av nationalitet, kränkningar på grund av religiös tillhörighet och hot. Plattformsadministratörer kommer att kunna aktivera ett speciellt filter för fientligt tal i communityinställningarna. När det gäller kommentatorer kommer de att se ett förslag om att vägra stötande kommentarer. Båda verktygen fungerar på basis av algoritmer, inklusive ett neuralt nätverk som känner igen förolämpningar.

Idag 4 november för en dag, under vilkendet kommer att finnas ett experiment om introduktion av nya algoritmer, i community-inställningarna är det möjligt att aktivera filtret av fientliga uttalanden. Neurala nätverk tar bort kommentarer som innehåller direkta hot mot människors liv och hälsa. Administratören ser dock alla kommentarer som filtret har avvisat. Han kommer att välja - att återställa raderade repliker eller skicka författaren till gemenskapens svartlista. Det bör sägas att det nya experimentella hatpratfiltret kan slås på eller av när som helst.

Plattformens neurala nätverk fortsätter att lära sig och utvecklas. Som noterat på VKontakte kommer resultaten av experimentet att användas för vidare utbildning och förbättring av filtrets prestanda.

En liknande funktion finns redan i många sociala nätverk.Till exempel känner Instagram igen en fientlig kommentar och, innan användaren publicerar den, uppmanar plattformen användaren att avsluta prenumerationen, vilket varnar för att det stötande innehållet kan tas bort. 

Problemet med trakasserier på nätet har länge lockat forskare och forskare, men de senaste åren har det fått mycket uppmärksamhet.

Läs också

Det årliga uppdraget i Arktis har avslutats och uppgifterna är en besvikelse. Vad väntar mänskligheten?

Forskare försöker förstå hur länge en neutron lever. Varför är det så svårt och viktigt?

Astronomer har upptäckt en kvasar med de starkaste vindarna