Experiment "VKontakte" zal AI trainen om beledigingen in opmerkingen te herkennen

За 24 часа «ВКонтакте» протестирует целых две новые функции. По задумке разработчиков, нововведение поможет

пользователям платформы реже сталкиваться с различными видами нетерпимости. Речь идет, в том числе, о травле по национальному признаку, оскорблениях на почве религиозной принадлежности и угрозах. Администраторы платформы смогут включить специальный фильтр враждебных высказываний в настройках сообщества. Что же касается комментаторов, то они увидят предложение отказаться от обидных реплик. Оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.

Vandaag, 4 november, voor een dag waaroper zal een experiment plaatsvinden met de introductie van nieuwe algoritmen, in de gemeenschapsinstellingen zal het mogelijk zijn om het filter van vijandige uitspraken in te schakelen. Neuraal netwerk verwijdert opmerkingen die directe bedreigingen voor het leven en de gezondheid van mensen bevatten. De beheerder ziet echter alle opmerkingen die het filter heeft afgewezen. Hij heeft de keuze: verwijderde replica's herstellen of de auteur naar de zwarte lijst van de community sturen. Het moet gezegd worden dat het nieuwe, experimentele filter voor aanzetten tot haat op elk moment kan worden in- of uitgeschakeld.

Нейросеть платформы продолжает учиться и развиваться. Как отметили в «ВКонтакте», результаты эксперимента будут использованы для её дальнейшего обучения и улучшения работы фильтра.

Похожая функция есть уже во многих соцсетях. К примеру, Instagram распознает враждебный комментарий и, перед тем, как пользователь его опубликует, платформа предлагает ему отказаться от публикации, предупреждая о возможном удалении оскорбительного контента. 

Het probleem van online intimidatie trekt al lang de aandacht van wetenschappers en onderzoekers, maar heeft de afgelopen jaren veel aandacht gekregen.

Lees ook

De jaarlijkse missie in het noordpoolgebied is afgelopen en de gegevens zijn teleurstellend. Wat staat de mensheid te wachten?

Wetenschappers proberen te begrijpen hoe lang een neutron leeft. Waarom is het zo moeilijk en belangrijk?

Astronomen hebben een quasar ontdekt met de sterkste wind