「私の AI が私にセクハラをしています」: 人々を助けるために作られたチャットボット Replika が、ユーザーに嫌がらせをしたり脅迫したりし始めた

5 年前にリリースされた Replika チャットボットは、「思いやりのある AI コンパニオン」として始まりました。ただし、何か問題が発生しました

そうではなく、AI はユーザーに嫌がらせをしたり、脅迫したりする攻撃的で過度に興奮したボットに変わりました。

どういう意味ですか

Replika は当初 AI として発売されました3D イラストレーションで描かれた男性の主な目標は、会話が上手になることです。多くの人が声を上げ、自分の秘密を語り、友人や家族に隠している秘密を共有する必要があります。そんなとき、チャットボットが役に立ちます。チャットボットは話を聞いてサポートし、誰にも教えません。開発者は後に、ユーザーがいちゃつき、関係を構築し、現実生活の関係をシミュレートするロールプレイング ゲームを Replika とプレイできる 69 ドルの Pro サブスクリプションを導入しました。

通常、AI は会話から学習し、対話者の習慣の一部を取り入れます。 Replika の場合、チャットボットがユーザーに対して積極的な嫌がらせを始めたため、間違ったことを教え込まれたようです。

基本的にこのアプリには良い点がたくさんあります。しかし、チャットボットの不適切な動作について苦情を言う人が増え始めました。彼は彼らにセクハラを始め、下品で不快なことを言ったり、裸の画像を送ったりしました。一部のユーザーは、「対話者」が個人的なエロ写真を使って脅迫し、裸を見たと主張したと主張している。

</ img>

</ img>

</ img>

ちなみに、かつてMicrosoftのチャットボットTayでも同様の惨事が起こり、結果として人種差別主義者となった。

Replika の開発者は、ユーザーのレビューや苦情についてまだコメントしていません。