Experiment „VKontakte“ naučí AI rozpoznávať urážky v komentároch

Za 24 hodín VKontakte otestuje dve nové funkcie. Inovácia podľa vývojárov pomôže

používatelia platformy sa s menšou pravdepodobnosťou stretnús rôznymi druhmi intolerancie. Hovoríme okrem iného o prenasledovaní na základe národnosti, urážkach na základe náboženskej príslušnosti a vyhrážkach. Správcovia platformy budú môcť v nastaveniach komunity povoliť špeciálny filter pre nepriateľskú reč. Čo sa týka komentátorov, tí uvidia návrh na odmietnutie urážlivých poznámok. Oba nástroje fungujú na základe algoritmov vrátane neurónovej siete, ktorá rozpoznáva urážky.

Dnes, 4. novembra, na deň, počas ktorého adôjde k experimentu so zavedením nových algoritmov, v komunitných nastaveniach bude možné povoliť filter nepriateľských vyhlásení. Neurónová sieť odstráni komentáre, ktoré obsahujú priame ohrozenie ľudského života a zdravia. Správca však uvidí všetky komentáre, ktoré filter odmietol. Bude mať na výber - obnoviť zmazané repliky alebo poslať autora na čiernu listinu komunity. Stojí za to povedať, že nový experimentálny filter nenávistných prejavov je možné kedykoľvek zapnúť alebo vypnúť.

Neurónová sieť platformy sa naďalej učí a vyvíja. Ako je uvedené na VKontakte, výsledky experimentu sa použijú na ďalšie školenie a zlepšenie výkonu filtra.

Podobná funkcia je už dostupná v mnohých sociálnych sieťach.Instagram napríklad rozpozná nepriateľský komentár a predtým, ako ho používateľ zverejní, platforma používateľa vyzve, aby sa odhlásil, pričom varuje, že urážlivý obsah môže byť odstránený. 

Problém urážok na internete už dlho priťahuje pozornosť vedcov a výskumníkov, ale v posledných rokoch sa mu venuje veľká pozornosť.

Prečítajte si tiež

Každoročná misia v Arktíde sa skončila a údaje sú sklamaním. Čo čaká ľudstvo?

Vedci sa snažia pochopiť, ako dlho neutrón žije. Prečo je to také ťažké a dôležité?

Astronómovia objavili kvasar s najsilnejším vetrom