Le YouTuber Yannick Kilcher a créé un robot et l'a formé à l'aide du tableau politiquement incorrect /pol/ toxique sur 4chan.
L'intelligence artificielle a analysé plusieursmilliard de fils offensants et est devenu une véritable machine à discours haineux. Le blogueur a introduit le modèle dans 10 bots et les a envoyés écrire des messages offensants.
En une journée, les robots ont créé 15 000 messages racistes.et les textes antisémites, qui représentaient environ 10 % de toutes les entrées parues sur le forum ce jour-là. Le modèle GPT-4chan a bien fonctionné. Malgré la création de messages vides et quelques erreurs mineures, tous les utilisateurs n’ont pas pu reconnaître que quelque chose n’allait pas. L’IA se distinguait en créant une atmosphère toxique, et les utilisateurs continuaient d’insulter leur ami même après l’arrêt de l’expérience.
Cette semaine, un modèle #IA a été publié sur @huggingface qui produit des textes nuisibles et discriminatoires et a déjà publié plus de 30 000 commentaires ignobles en ligne (selon son auteur).
Cette expérience ne passerait jamais un comité d'éthique de la recherche humaine. Voici mes recommandations.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
– Lauren Oakden-Rayner (Dr.Dr. ????) (@DrLaurenOR) 6 juin 2022
Yannick Kilcher postant une copie de son programme surHugging Face, cependant, elle a dû être bloquée. Les chercheurs en intelligence artificielle ont estimé que GPT-4chan était une expérience contraire à l'éthique et non une blague anodine.
Source : Vice
</ p>