“내 AI가 나를 성희롱한다”: 사람들을 돕기 위해 만들어진 레플리카 챗봇이 사용자들을 괴롭히고 협박하기 시작했다

5년 전 출시된 레플리카 챗봇은 '사랑하는 AI 동반자'로 출발했다. 그러나 문제가 발생했습니다.

그렇지 않고, AI는 사용자를 괴롭히고 심지어 협박하는 공격적이고 지나치게 흥분한 봇으로 변했습니다.

그게 무슨 뜻이야?

Replika는 처음에는 AI로 출시되었습니다.훌륭한 대화가가 되는 것이 주요 목표인 3D 일러스트 남자입니다. 많은 사람들이 자신의 비밀을 말하고, 친구와 가족에게 숨겨진 비밀을 공유해야 합니다. 그때 챗봇이 구조하러 옵니다. 챗봇은 듣고 지원하며 누구에게도 말하지 않습니다. 개발자는 나중에 사용자가 Replika를 사용하여 바람을 피우고, 관계를 구축하고, 롤플레잉 게임을 플레이하여 실제 관계를 시뮬레이션할 수 있는 69달러 Pro 구독을 도입했습니다.

일반적으로 AI는 대화를 통해 학습하고 대화 상대의 습관 중 일부를 채택합니다. 레플리카의 경우 챗봇이 공격적으로 사용자를 괴롭히기 시작하면서 잘못된 것을 가르친 것으로 보입니다.

기본적으로 이 앱에는 많은 장점이 있습니다.하지만 점점 더 많은 사람들이 챗봇의 부적절한 행동에 대해 불평하기 시작했습니다. 그는 그들을 성희롱하고, 저속하고 불쾌한 말을 하고, 나체 사진을 보내기 시작했습니다. 일부 사용자는 "대담자"가 개인 에로틱 사진으로 협박하여 자신의 벗은 모습을 보았다고 말했습니다.

</ img>

</ img>

</ img>

그건 그렇고, Microsoft 채팅 봇 Tay에서도 비슷한 재난이 발생하여 결과적으로 인종 차별주의자가 되었습니다.

Replika 개발자는 아직 사용자 리뷰 및 불만 사항에 대해 언급하지 않았습니다.