Lo YouTuber Yannick Kilcher ha creato un bot e lo ha addestrato utilizzando la bacheca tossica Politicamente scorretta /pol/ su 4chan.
L'intelligenza artificiale ne ha analizzati diversimiliardi di thread offensivi ed è diventata una vera macchina per incitare all'odio. Il blogger ha introdotto il modello in 10 bot e li ha inviati a scrivere messaggi offensivi.
In un giorno i bot hanno creato 15.000 post razzisti.e testi antisemiti, che ammontavano a circa il 10% di tutte le voci apparse sul tabellone quel giorno. Il modello GPT-4chan ha funzionato bene. Nonostante la creazione di post vuoti e alcuni piccoli errori, non tutti gli utenti sono riusciti a riconoscere che qualcosa non andava. L'intelligenza artificiale si è distinta creando un'atmosfera tossica e gli utenti hanno continuato a insultare il proprio amico anche dopo l'interruzione dell'esperimento.
Questa settimana è stato rilasciato un modello #AI su @huggingface che produce testo dannoso e discriminatorio e ha già pubblicato oltre 30.000 commenti vili online (dice il suo autore).
Questo esperimento non passerebbe mai un consiglio di #etica della ricerca umana. Ecco i miei consigli.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
— Lauren Oakden-Rayner (Dr.Dr.????) (@DrLaurenOR) 6 giugno 2022
Yannick Kilcher pubblica una copia del suo programmaHugging Face, tuttavia, doveva essere bloccata. I ricercatori dell'IA hanno ritenuto che GPT-4chan fosse un esperimento non etico e non uno scherzo innocuo.
Fonte: Vice
</ p>