YouTuber Yannick Kilcher skabte en bot og trænede den ved at bruge det giftige Politisk ukorrekte /pol/ board på 4chan.
Kunstig intelligens analyserede fleremilliarder stødende tråde og blev en rigtig hadefuld talemaskine. Bloggeren introducerede modellen i 10 bots og sendte dem for at skrive stødende beskeder.
På én dag oprettede bots 15.000 racistiske indlæg.og antisemitiske tekster, som udgjorde omkring 10 % af alle indlæg, der dukkede op på tavlen den dag. GPT-4chan-modellen klarede sig godt. På trods af oprettelsen af tomme indlæg og nogle mindre fejl, var det ikke alle brugere, der var i stand til at genkende, at noget var galt. AI udmærkede sig ved at skabe en giftig atmosfære, og brugere fortsatte med at fornærme deres ven, selv efter at eksperimentet blev stoppet.
I denne uge blev der frigivet en #AI-model på @huggingface, der producerer skadelig + diskriminerende tekst og allerede har lagt over 30.000 modbydelige kommentarer online (siger dens forfatter).
Dette eksperiment ville aldrig bestå et #ethics board for mennesker. Her er mine anbefalinger.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
— Lauren Oakden-Rayner (Dr.Dr. ????) (@DrLaurenOR) 6. juni 2022
Yannick Kilcher sender en kopi af sit program påHugging Face måtte hun dog blokeres. AI-forskere mente, at GPT-4chan var et uetisk eksperiment og ikke en harmløs joke.
Kilde: Vice
</ p>