L'expérience "VKontakte" entraînera l'IA à reconnaître les insultes dans les commentaires

Dans 24 heures, VKontakte testera deux toutes nouvelles fonctions. Telle qu'elle a été conçue par les développeurs, l'innovation aidera

les utilisateurs de la plateforme sont moins susceptibles de rencontrerdivers types d'intolérance. Cela comprend, entre autres, le harcèlement fondé sur l'appartenance ethnique, les insultes fondées sur l'appartenance religieuse et les menaces. Les administrateurs de la plateforme pourront activer un filtre spécial contre les discours de haine dans les paramètres de la communauté. Quant aux commentateurs, ils verront une offre d'abandonner les propos offensants. Les deux outils fonctionnent sur la base d'algorithmes - y compris un réseau neuronal qui reconnaît les insultes.

Aujourd'hui 4 novembre, pour une journée au cours de laquelleil y aura une expérience sur l'introduction de nouveaux algorithmes, dans les paramètres de la communauté, il sera possible d'activer le filtre des déclarations hostiles. Le réseau neuronal supprime les commentaires contenant des menaces directes pour la vie et la santé humaines. Cependant, l'administrateur verra tous les commentaires que le filtre a rejetés. Il aura le choix - restaurer les répliques supprimées ou envoyer l'auteur sur la liste noire de la communauté. Il vaut la peine de dire que le nouveau filtre expérimental contre les discours de haine peut être activé ou désactivé à tout moment.

Le réseau neuronal de la plateforme continue à apprendre et à se développer. Comme indiqué dans VKontakte, les résultats de l'expérience seront utilisés pour sa formation continue et l'amélioration du filtre.

Une fonction similaire existe déjà dans de nombreux réseaux sociaux.Par exemple, Instagram reconnaît un commentaire hostile et, avant qu'un utilisateur ne le publie, la plateforme l'invite à se désinscrire, l'avertissant de la suppression éventuelle d'un contenu offensant.

Le problème du harcèlement sur Internet a longtemps attiré l'attention des scientifiques et des chercheurs, mais ces dernières années, il a reçu beaucoup d'attention.

Lisez aussi

La mission annuelle dans l'Arctique est terminée et les données sont décevantes. Qu'est-ce qui attend l'humanité?

Les scientifiques essaient de comprendre combien de temps un neutron vit. Pourquoi est-ce si difficile et si important?

Les astronomes ont découvert un quasar avec les vents les plus forts