Eksperiment "VKontakte" vil trene AI til å gjenkjenne fornærmelser i kommentarer

Om 24 timer vil VKontakte teste to nye funksjoner. Ifølge utviklerne vil innovasjonen hjelpe

plattformbrukere er mindre sannsynlig å møtemed ulike typer intoleranse. Vi snakker blant annet om forfølgelse basert på nasjonalitet, fornærmelser basert på religiøs tilhørighet og trusler. Plattformadministratorer vil kunne aktivere et spesielt filter for fiendtlig tale i fellesskapsinnstillingene. Når det gjelder kommentatorer, vil de se et forslag om å avslå støtende ytringer. Begge verktøyene opererer på grunnlag av algoritmer, inkludert et nevralt nettverk som gjenkjenner fornærmelser.

I dag, 4. november, for en dag, i løpet av hvilkendet vil være et eksperiment med innføring av nye algoritmer, i fellesskapsinnstillingene vil det være mulig å aktivere filtrering av fiendtlige utsagn. Nevrale nettverk sletter kommentarer som inneholder direkte trusler mot menneskers liv og helse. Administratoren vil imidlertid se alle kommentarene som filteret har avvist. Han vil ha et valg - gjenopprette slettede kopier eller sende forfatteren til samfunnets svarteliste. Det er verdt å si at det nye, eksperimentelle hatefilteret kan slås på eller av når som helst.

Plattformens nevrale nettverk fortsetter å lære og utvikle seg. Som nevnt på VKontakte, vil resultatene av eksperimentet bli brukt til videre trening og forbedring av filterets ytelse.

En lignende funksjon er allerede tilgjengelig i mange sosiale nettverk.For eksempel gjenkjenner Instagram en fiendtlig kommentar, og før brukeren publiserer den, ber plattformen brukeren om å avslutte abonnementet, og advarer om at det støtende innholdet kan bli fjernet. 

Problemet med trakassering på Internett har lenge tiltrukket seg forskere og forskere, men de siste årene har det fått mye oppmerksomhet.

Les også

Det årlige oppdraget i Arktis er avsluttet, og dataene er skuffende. Hva venter menneskeheten?

Forskere prøver å forstå hvor lenge et nøytron lever. Hvorfor er det så vanskelig og viktig?

Astronomer har oppdaget en kvasar med sterkest vind