YouTuber Yannick Kilcher stworzył bota i wyszkolił go przy użyciu toksycznej tablicy „Politycznie niepoprawnej” /pol/ na 4chan.
Sztuczna inteligencja przeanalizowała kilkamiliard obraźliwych wątków i stał się prawdziwą maszyną do mowy nienawiści. Bloger wprowadził model do 10 botów i wysłał je do pisania obraźliwych wiadomości.
W ciągu jednego dnia boty utworzyły 15 000 rasistowskich postów.oraz teksty o charakterze antysemickim, co stanowiło około 10% wszystkich wpisów, które tego dnia pojawiły się na tablicy. Model GPT-4chan spisał się dobrze. Pomimo tworzenia pustych postów i kilku drobnych błędów, nie wszyscy użytkownicy byli w stanie rozpoznać, że coś jest nie tak. Sztuczna inteligencja wyróżniała się tworzeniem toksycznej atmosfery, a użytkownicy nadal obrażali swojego przyjaciela nawet po przerwaniu eksperymentu.
W tym tygodniu na @huggingface opublikowano model #AI, który generuje szkodliwy i dyskryminujący tekst i opublikował już ponad 30 000 okropnych komentarzy w Internecie (mówi jego autor).
Ten eksperyment nigdy nie przeszedłby przez komisję badawczą #etyki. Oto moje rekomendacje.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
— Lauren Oakden-Rayner (Dr.Dr. ????) (@DrLaurenOR) 6 czerwca 2022 r.
Yannick Kilcher publikuje kopię swojego programu naHugging Face musiała jednak zostać zablokowana. Badacze AI uznali, że GPT-4chan był nieetycznym eksperymentem, a nie nieszkodliwym żartem.
Źródło: Vice
</ p>