O experimento "VKontakte" treinará IA para reconhecer insultos em comentários

Em 24 horas, o VKontakte testará duas novas funções. Segundo os desenvolvedores, a inovação vai ajudar

os usuários da plataforma são menos propensos a encontrarcom vários tipos de intolerância. Estamos a falar, entre outras coisas, de perseguições baseadas na nacionalidade, de insultos baseados na filiação religiosa e de ameaças. Os administradores da plataforma poderão ativar um filtro especial para discurso hostil nas configurações da comunidade. Quanto aos comentadores, verão uma proposta de recusa de comentários ofensivos. Ambas as ferramentas operam com base em algoritmos, incluindo uma rede neural que reconhece insultos.

Hoje, 4 de novembro, por um dia, durante o qualHaverá uma experiência de introdução de novos algoritmos, nas configurações da comunidade será possível habilitar o filtro de declarações hostis. A rede neural exclui comentários que contêm ameaças diretas à vida e à saúde humanas. No entanto, o administrador verá todos os comentários que o filtro rejeitou. Ele terá uma escolha - restaurar réplicas excluídas ou enviar o autor para a lista negra da comunidade. Deve-se dizer que o novo filtro experimental de incitação ao ódio pode ser ativado ou desativado a qualquer momento.

A rede neural da plataforma continua a aprender e a se desenvolver. Conforme observado no VKontakte, os resultados do experimento serão usados ​​para treinamento adicional e melhoria do desempenho do filtro.

Uma função semelhante já está disponível em muitas redes sociais.Por exemplo, o Instagram reconhece um comentário hostil e, antes de o usuário publicá-lo, a plataforma solicita que o usuário cancele a assinatura, avisando que o conteúdo ofensivo pode ser removido.

O problema do assédio online há muito tempo atrai a atenção de cientistas e pesquisadores, mas nos últimos anos tem recebido muita atenção.

Leia também

A missão anual no Ártico terminou e os dados são decepcionantes. O que espera a humanidade?

Os cientistas estão tentando entender por quanto tempo vive um nêutron. Por que é tão difícil e importante?

Astrônomos descobriram um quasar com os ventos mais fortes