O YouTuber Yannick Kilcher criou um bot e o treinou usando o quadro tóxico Politicamente Incorreto /pol/ no 4chan.
A inteligência artificial analisou váriosbilhões de tópicos ofensivos e se tornou uma verdadeira máquina de discurso de ódio. O blogueiro introduziu o modelo em 10 bots e os enviou para escrever mensagens ofensivas.
Em um dia, os bots criaram 15 mil postagens racistas.e textos antissemitas, que representaram cerca de 10% de todas as entradas que apareceram no quadro naquele dia. O modelo GPT-4chan teve um bom desempenho. Apesar da criação de postagens vazias e de alguns pequenos erros, nem todos os usuários conseguiram reconhecer que algo estava errado. A IA se destacou por criar uma atmosfera tóxica, e os usuários continuaram a insultar seus amigos mesmo depois que o experimento foi interrompido.
Esta semana foi lançado um modelo #AI no @huggingface que produz texto prejudicial + discriminatório e já postou mais de 30 mil comentários vis online (diz seu autor).
Este experimento nunca passaria por um conselho de ética em pesquisa humana. Aqui estão as minhas recomendações.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
— Lauren Oakden-Rayner (Dr.Dr. ????) (@DrLaurenOR) 6 de junho de 2022
Yannick Kilcher postando uma cópia de seu programa noAbraçando Face, no entanto, ela teve que ser bloqueada. Os pesquisadores de IA sentiram que o GPT-4chan era um experimento antiético e não uma piada inofensiva.
Fonte: Vice
</ p>