YouTube-блогер Янник Килчер создал бота и натренировал его с помощью токсичной доски Politically Incorrect /pol/ в 4chan.
Umjetna inteligencija analizirala je nekolikomilijardu uvredljivih niti i postao pravi stroj za govor mržnje. Bloger je predstavio model u 10 botova i poslao ih da pišu uvredljive poruke.
За сутки боты создали 15 000 постов с расистскими и антисемитскими текстами, что составило порядка 10% от всех записей, появившихся на доске в тот день. Модель GPT-4chan хорошо себя проявила. Несмотря на создание пустых постов и некоторые мелки ошибки, далеко не все пользователи смогли распознать неладное. ИИ отличился созданием токсичной атмосферы, а пользователи продолжили оскорблять друга даже после прекращения эксперимента.
This week an #AI model was released on @huggingface that produces harmful + discriminatory text and has already posted over 30k vile comments online (says it’s author).
Ovaj eksperiment nikada ne bi prošao #etički odbor za ljudska istraživanja. Evo mojih preporuka.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
— Lauren Oakden-Rayner (Dr. Dr. ????) (@DrLaurenOR) 6. lipnja 2022.
Yannick Kilcher objavljuje kopiju svog programa naGrleći Face, međutim, morala je biti blokirana. Istraživači umjetne inteligencije smatrali su da je GPT-4chan neetički eksperiment, a ne bezazlena šala.
Izvor: Vice
</ p>