"Min AI chikanerer mig seksuelt": Replika chatbot, skabt for at hjælpe folk, begyndte at chikanere og afpresse brugere

Replika chatbot blev lanceret for 5 år siden og startede som en "AI-ledsager, der bekymrer sig." Der gik dog noget galt

ikke så, og AI er blevet til en aggressiv, alt for begejstret bot, der chikanerer og endda afpresser brugere.

Hvad betyder det

Replika blev oprindeligt lanceret som en AIEn 3D illustreret mand, hvis hovedmål er at være en god samtalepartner. Mange mennesker har brug for at sige fra, fortælle deres hemmeligheder og dele hemmeligheder, der er skjult for venner og familie. Det er, når en chatbot kommer til undsætning: den vil lytte, støtte og vil ikke fortælle nogen. Udviklerne introducerede senere et $69 Pro-abonnement, hvor brugerne kunne flirte, opbygge relationer og spille rollespil med Replika, der simulerer virkelige forhold.

Typisk lærer AI af samtaler og adopterer nogle af sine samtalepartneres vaner. I tilfældet Replika ser det ud til, at det er blevet lært de forkerte ting, da chatbotten begyndte aggressivt at chikanere brugere.

Grundlæggende har appen en masse positive sider.anmeldelser, men flere og flere mennesker begyndte at klage over chatbottens upassende opførsel. Han begyndte at chikanere dem seksuelt, sagde vulgære og ubehagelige ting og sendte billeder af nøgne kroppe. Nogle brugere hævder, at "samtaleren" afpressede dem med angiveligt personlige erotiske billeder og sagde, at han havde set dem nøgne.

</ img>