L'expérience "VKontakte" entraînera l'IA à reconnaître les insultes dans les commentaires

Dans 24 heures, VKontakte testera deux nouvelles fonctions. Selon les développeurs, l'innovation aidera

les utilisateurs de la plateforme sont moins susceptibles de rencontreravec divers types d’intolérance. Nous parlons, entre autres, de persécutions fondées sur la nationalité, d'insultes fondées sur l'appartenance religieuse et de menaces. Les administrateurs de la plateforme pourront activer un filtre spécial pour les discours hostiles dans les paramètres de la communauté. Quant aux commentateurs, ils verront une proposition pour refuser les propos offensants. Les deux outils fonctionnent sur la base d’algorithmes, dont un réseau de neurones qui reconnaît les insultes.

Aujourd'hui 4 novembre, pour une journée au cours de laquelleil y aura une expérience sur l'introduction de nouveaux algorithmes, dans les paramètres de la communauté, il sera possible d'activer le filtre des déclarations hostiles. Le réseau neuronal supprime les commentaires contenant des menaces directes pour la vie et la santé humaines. Cependant, l'administrateur verra tous les commentaires que le filtre a rejetés. Il aura le choix - restaurer les répliques supprimées ou envoyer l'auteur sur la liste noire de la communauté. Il vaut la peine de dire que le nouveau filtre expérimental contre les discours de haine peut être activé ou désactivé à tout moment.

Le réseau neuronal de la plateforme continue d’apprendre et de se développer. Comme indiqué sur VKontakte, les résultats de l’expérience seront utilisés pour une formation continue et l’amélioration des performances du filtre.

Une fonction similaire est déjà disponible sur de nombreux réseaux sociaux.Par exemple, Instagram reconnaît un commentaire hostile et, avant que l'utilisateur ne le publie, la plateforme propose à l'utilisateur de se désinscrire, en l'avertissant que le contenu offensant pourrait être supprimé.

Le problème du harcèlement sur Internet a longtemps attiré l'attention des scientifiques et des chercheurs, mais ces dernières années, il a reçu beaucoup d'attention.

Lisez aussi

La mission annuelle dans l'Arctique est terminée et les données sont décevantes. Qu'est-ce qui attend l'humanité?

Les scientifiques essaient de comprendre combien de temps un neutron vit. Pourquoi est-ce si difficile et si important?

Les astronomes ont découvert un quasar avec les vents les plus forts