L'IA supprime 95% des publications offensantes sur Facebook

Facebook a passé plusieurs années à créer un algorithme basé sur l'IA qui peut rapidement trouver et

supprimer les publications offensantes sur les réseaux sociauxréseaux. L'entreprise note que la technologie peut désormais détecter 95 % des contenus sans l'intervention de modérateurs en direct. Cependant, les 5 % restants sont difficiles à déterminer et l’entreprise essaie désormais de trouver comment les supprimer également.

Facebook a signalé que son système d'IA avait détecté94,7% des messages (22,1 millions de publications) contenant des propos haineux ont tous été automatiquement supprimés au troisième trimestre 2020. C'est beaucoup plus qu'avant - au même trimestre il y a un an, AI n'a pu trouver que 80,5% des publications (6,9 millions de publications) contenant des discours de haine. L'entreprise a également publié ces chiffres dans le rapport sur l'application des normes communautaires.

Comme beaucoup d'autres réseaux sociaux, nousNous comptons sur l'IA pour aider notre équipe de modération à faciliter la recherche de publications inappropriées. Supprimer constamment les messages et publicités indésirables des utilisateurs est une tâche difficile et sans fin. Mais la difficulté est que seuls les humains peuvent distinguer une œuvre d’art d’une photographie érotique, une plaisanterie subtile d’une insulte. Mais bientôt l’IA pourra le faire pour les modérateurs.

Facebook (en anglais seulement

Les chercheurs notent que le contenu le plus difficilepour l'IA, c'est celui qui est basé sur des mèmes et des indices que le modèle ne définit pas. Facebook travaille actuellement sur la détection des mèmes haineux. Au printemps 2020, la société a publié un ensemble de données accessible au public lié à ce contenu dans l'espoir d'aider les chercheurs à améliorer leur découverte. À titre d'exemple de contenu susceptible de gêner les autres utilisateurs, ils ont montré un mème qui représente un cimetière avec le texte «ici, vous appartenez».

L'intelligence artificielle (IA) n'a pas été en mesure de déterminer qu'il s'agissait d'un contenu offensant. Cependant, quelques années de formation supplémentaires permettront à l'algorithme de comprendre pourquoi cela humilie certains utilisateurs.

Lisez aussi

Une météorite est tombée sur une maison indonésienne. Son propriétaire est devenu millionnaire

Les neurones du cerveau humain et le réseau des galaxies sont similaires

En raison du mouvement des plaques, le plancher de l'océan Pacifique est maintenant profondément sous la Chine