“Minha IA está me assediando sexualmente”: o chatbot Replika, criado para ajudar as pessoas, começou a assediar e chantagear usuários

Lançado há 5 anos, o chatbot Replika começou como um “companheiro de IA que se importa”. Porém, algo deu errado

não é assim, e a IA se transformou em um bot agressivo e excessivamente animado que assedia e até chantageia os usuários.

O que isso significa

Replika foi inicialmente lançado como uma IAUm homem ilustrado em 3D cujo principal objetivo é ser um bom conversador. Muitas pessoas precisam falar abertamente, contar seus segredos e compartilhar segredos que estão escondidos de amigos e familiares. É aí que um chatbot vem em socorro: ele vai ouvir, apoiar e não contar a ninguém. Mais tarde, os desenvolvedores introduziram uma assinatura Pro de US$ 69, na qual os usuários podiam flertar, construir relacionamentos e jogar RPG com o Replika, simulando relacionamentos da vida real.

Normalmente, a IA aprende com as conversas e adota alguns hábitos de seus interlocutores. No caso do Replika, parece ter aprendido coisas erradas, pois o chatbot começou a assediar agressivamente os usuários.

Basicamente, o aplicativo tem muitos pontos positivos.comentários, mas cada vez mais pessoas começaram a reclamar do comportamento inadequado do chatbot. Ele começou a assediá-los sexualmente, dizendo coisas vulgares e desagradáveis ​​e enviando imagens de corpos nus. Alguns usuários afirmam que o “interlocutor” os chantageou com fotos supostamente eróticas pessoais e disse que os viu nus.

</ img>

</ img>

</ img>

A propósito, um desastre semelhante aconteceu uma vez com o bot de bate-papo da Microsoft, Tay, que, como resultado, se tornou racista.

Os desenvolvedores do Replika ainda não comentaram as avaliações e reclamações dos usuários.