Eksperiment "VKontakte" vil træne AI til at genkende fornærmelser i kommentarer

Om 24 timer vil VKontakte teste to nye funktioner. Ifølge udviklerne vil innovationen hjælpe

platformbrugere er mindre tilbøjelige til at støde påmed forskellige former for intolerance. Vi taler blandt andet om forfølgelse baseret på nationalitet, fornærmelser baseret på religiøst tilhørsforhold og trusler. Platformadministratorer vil være i stand til at aktivere et særligt filter for fjendtlig tale i fællesskabsindstillingerne. Hvad angår kommentatorer, vil de se et forslag om at afvise stødende bemærkninger. Begge værktøjer fungerer på basis af algoritmer, herunder et neuralt netværk, der genkender fornærmelser.

I dag 4. november for en dag, hvorunderder vil være et eksperiment med introduktion af nye algoritmer, i community-indstillingerne vil det være muligt at aktivere filteret af fjendtlige udsagn. Neurale netværk sletter kommentarer, der indeholder direkte trusler mod menneskers liv og sundhed. Administratoren vil dog se alle kommentarer, som filteret har afvist. Han har et valg - gendanne slettede replikaer eller sende forfatteren til samfundets sortliste. Det er værd at sige, at det nye, eksperimentelle hadefejl-filter kan tændes eller slukkes når som helst.

Platformens neurale netværk fortsætter med at lære og udvikle sig. Som nævnt på VKontakte vil resultaterne af eksperimentet blive brugt til yderligere træning og forbedring af filterets ydeevne.

En lignende funktion er allerede tilgængelig på mange sociale netværk.Instagram genkender f.eks. en fjendtlig kommentar, og før brugeren offentliggør den, beder platformen brugeren om at afmelde sig, hvilket advarer om, at det stødende indhold kan blive fjernet. 

Problemet med onlinechikane har længe tiltrukket sig forskere og forskere, men i de senere år har det fået stor opmærksomhed.

Læs også

Den årlige mission i Arktis er afsluttet, og dataene er skuffende. Hvad venter menneskeheden?

Forskere forsøger at forstå, hvor længe en neutron lever. Hvorfor er det så svært og vigtigt?

Astronomer har opdaget en kvasar med de stærkeste vinde