Eksperyment „VKontakte” nauczy sztuczną inteligencję rozpoznawania obelg w komentarzach

Za 24 godziny VKontakte przetestuje dwie nowe funkcje. Według twórców innowacja pomoże

użytkownicy platformy rzadziej się z nimi spotykająz różnymi rodzajami nietolerancji. Mówimy m.in. o prześladowaniach ze względu na narodowość, obelgach ze względu na przynależność religijną i groźbach. Administratorzy platformy będą mogli włączyć specjalny filtr wrogiej mowy w ustawieniach społeczności. Jeśli zaś chodzi o komentatorów, to oni zobaczą propozycję odrzucenia obraźliwych uwag. Obydwa narzędzia działają w oparciu o algorytmy, w tym sieć neuronową rozpoznającą obelgi.

Dziś 4 listopada za jeden dzień, podczas któregoodbędzie się eksperyment z wprowadzeniem nowych algorytmów, w ustawieniach społecznościowych będzie można włączyć filtrowanie wrogich wypowiedzi. Sieć neuronowa usuwa komentarze zawierające bezpośrednie zagrożenia dla życia i zdrowia ludzi. Jednak administrator zobaczy wszystkie komentarze odrzucone przez filtr. Będzie miał wybór - przywrócić usunięte repliki lub wysłać autora na czarną listę społeczności. Należy powiedzieć, że nowy, eksperymentalny filtr mowy nienawiści można włączyć lub wyłączyć w dowolnym momencie.

Sieć neuronowa platformy wciąż się uczy i rozwija. Jak zauważono na VKontakte, wyniki eksperymentu zostaną wykorzystane do dalszego szkolenia i poprawy wydajności filtra.

Podobna funkcja jest już dostępna w wielu sieciach społecznościowych.Na przykład Instagram rozpoznaje wrogi komentarz i zanim użytkownik go opublikuje, platforma prosi go o rezygnację z subskrypcji, ostrzegając, że obraźliwe treści mogą zostać usunięte. 

Problem nękania w Internecie od dawna przyciąga uwagę naukowców i badaczy, ale w ostatnich latach poświęcono mu wiele uwagi.

Czytaj także

Coroczna misja w Arktyce dobiegła końca, a dane są rozczarowujące. Co czeka ludzkość?

Naukowcy próbują zrozumieć, jak długo żyje neutron. Dlaczego jest to takie trudne i ważne?

Astronomowie odkryli kwazar z najsilniejszymi wiatrami