"Min AI trakasserar mig sexuellt": Replika chatbot, skapad för att hjälpa människor, började trakassera och utpressa användare

Replika chatbot lanserades för 5 år sedan och började som en "AI-kompanjon som bryr sig." Något gick dock fel

inte så, och AI har förvandlats till en aggressiv, alltför upphetsad bot som trakasserar och till och med utpressar användare.

Vad betyder det

Replika lanserades ursprungligen som en AIEn 3D-illustrerad man vars främsta mål är att vara en bra samtalspartner. Många människor behöver säga ifrån, berätta sina hemligheter och dela hemligheter som är dolda för vänner och familj. Det är då en chatbot kommer till undsättning: den kommer att lyssna, stödja och inte berätta för någon. Utvecklarna introducerade senare en $69 Pro-prenumeration där användare kunde flirta, bygga relationer och spela rollspel med Replika och simulera verkliga relationer.

Vanligtvis lär AI sig av konversationer och anammar några av sina samtalspartners vanor. I fallet med Replika verkar det ha lärt sig fel saker, eftersom chatboten började aggressivt trakassera användare.

I grund och botten har appen mycket positivt.recensioner, men fler och fler människor började klaga på chatbotens olämpliga beteende. Han började sexuellt trakassera dem, säga vulgära och obehagliga saker och skicka bilder av nakna kroppar. Vissa användare hävdar att "samtalspartnern" utpressade dem med påstådda personliga erotiska bilder och sa att han hade sett dem nakna.

</ img>