Експериментът „ВКонтакте“ ще обучи ИИ да разпознава обиди в коментари

След 24 часа VKontakte ще тества две нови функции. Според разработчиците иновацията ще помогне

потребителите на платформата е по-малко вероятно да се сблъскатс различни видове непоносимост. Говорим, наред с други неща, за преследване по национална основа, обиди по религиозна принадлежност и заплахи. Администраторите на платформата ще могат да активират специален филтър за враждебна реч в настройките на общността. Що се отнася до коментаторите, те ще видят предложение за отказ от обидни забележки. И двата инструмента работят на базата на алгоритми, включително невронна мрежа, която разпознава обиди.

Днес, 4 ноември, за един ден, през койтоще има експеримент за въвеждането на нови алгоритми, в настройките на общността ще бъде възможно да се активира филтърът на враждебни изявления. Невронната мрежа изтрива коментари, които съдържат преки заплахи за живота и здравето на хората. Администраторът обаче ще види всички коментари, които филтърът е отхвърлил. Той ще има избор - да възстанови изтритите реплики или да изпрати автора в черния списък на общността. Струва си да се каже, че новият експериментален филтър за реч на омразата може да бъде включен или изключен по всяко време.

Невронната мрежа на платформата продължава да се учи и развива. Както се отбелязва във VKontakte, резултатите от експеримента ще бъдат използвани за по-нататъшно обучение и подобряване на работата на филтъра.

Подобна функция вече е налична в много социални мрежи.Например Instagram разпознава враждебен коментар и преди потребителят да го публикува, платформата го подканва да се отпише, като предупреждава, че обидното съдържание може да бъде премахнато. 

Проблемът с тормоза в Интернет отдавна привлича вниманието на учени и изследователи, но през последните години той получава много внимание.

Прочетете също

Годишната мисия в Арктика приключи и данните са разочароващи. Какво очаква човечеството?

Учените се опитват да разберат колко дълго живее неутронът. Защо е толкова трудно и важно?

Астрономите са открили квазара с най-силните ветрове