Experiment „VKontakte“ naučí AI rozpoznávat urážky v komentářích

Za 24 hodin VKontakte otestuje dvě nové funkce. Inovace podle vývojářů pomůže

uživatelé platformy se s menší pravděpodobností setkajís různými druhy nesnášenlivosti. Hovoříme mimo jiné o pronásledování na základě národnosti, urážkách na základě náboženské příslušnosti a výhrůžkách. Správci platformy budou moci v nastavení komunity povolit speciální filtr pro nepřátelskou řeč. Pokud jde o komentátory, uvidí návrh na odmítnutí urážlivých poznámek. Oba nástroje fungují na základě algoritmů, včetně neuronové sítě, která rozpoznává urážky.

Dnes, 4. listopadu, na den, během kteréhoproběhne experiment se zavedením nových algoritmů, v nastavení komunity bude možné povolit filtr nepřátelských prohlášení. Neuronová síť odstraňuje komentáře, které obsahují přímé ohrožení lidského života a zdraví. Správce však uvidí všechny komentáře, které filtr odmítl. Bude mít na výběr - obnovit odstraněné repliky nebo poslat autora na černou listinu komunity. Je třeba říci, že nový experimentální filtr nenávistné řeči lze kdykoli zapnout nebo vypnout.

Neuronová síť platformy se stále učí a vyvíjí. Jak je uvedeno na VKontakte, výsledky experimentu budou použity pro další školení a zlepšení výkonu filtru.

Podobná funkce je již dostupná na mnoha sociálních sítích.Instagram například rozpozná nepřátelský komentář a předtím, než jej uživatel zveřejní, platforma uživatele vyzve, aby se odhlásil, a varuje, že urážlivý obsah může být odstraněn. 

Problém urážek na internetu dlouho přitahoval pozornost vědců a vědců, ale v posledních letech se mu dostalo velké pozornosti.

Přečtěte si také

Roční mise v Arktidě skončila a data jsou zklamáním. Co čeká lidstvo?

Vědci se snaží pochopit, jak dlouho neutron žije. Proč je to tak těžké a důležité?

Astronomové objevili kvasar s nejsilnějším větrem