유튜버 Yannick Kilcher는 4chan의 유독한 정치적으로 잘못된 /pol/ 보드를 사용하여 봇을 만들고 훈련시켰습니다.
인공 지능은 여러 가지 분석10억 개의 공격적인 스레드가 생성되어 진정한 증오심 표현 기계가 되었습니다. 블로거는 이 모델을 10개의 봇에 소개하고 공격적인 메시지를 작성하도록 보냈습니다.
하루 만에 봇은 15,000개의 인종차별 게시물을 만들었습니다.그리고 그날 게시판에 올라온 전체 항목의 약 10%에 달하는 반유대주의 텍스트였습니다. GPT-4chan 모델의 성능이 좋았습니다. 빈 게시물이 생성되고 사소한 오류가 발생했음에도 불구하고 모든 사용자가 문제가 있음을 인식할 수는 없었습니다. AI는 유독한 분위기를 조성해 차별화를 뒀고, 유저들은 실험이 중단된 후에도 계속해서 친구를 모욕했다.
이번 주 @huggingface에는 유해 + 차별적인 텍스트를 생성하는 #AI 모델이 출시되었으며 이미 온라인에 30,000개 이상의 악의적인 댓글이 게시되었습니다(저자에 따르면).
이 실험은 인간 연구 윤리 위원회를 통과하지 못할 것입니다. 여기 내 권장 사항이 있습니다.
1/7 https://t.co/tJCegPcFan pic.twitter.com/Mj7WEy2qHl
— Lauren Oakden-Rayner(Dr.Dr. ????)(@DrLaurenOR) 2022년 6월 6일
Yannick Kilcher가 자신의 프로그램 사본을 게시하고 있습니다.허깅 페이스, 그러나 그녀는 차단되어야 했다. AI 연구원들은 GPT-4chan이 무해한 농담이 아니라 비윤리적인 실험이라고 생각했습니다.
출처: 바이스
</ p>