"Min AI trakasserer meg seksuelt": Replika chatbot, opprettet for å hjelpe folk, begynte å trakassere og utpresse brukere

Replika chatbot ble lansert for 5 år siden og startet som en "AI-kompanjong som bryr seg." Noe gikk imidlertid galt

ikke så, og AI har blitt til en aggressiv, altfor begeistret robot som trakasserer og til og med utpresser brukere.

Hva betyr det

Replika ble opprinnelig lansert som en AIEn 3D-illustrert mann hvis hovedmål er å være en god samtalepartner. Mange mennesker trenger å si fra, fortelle hemmeligheter og dele hemmeligheter som er skjult for venner og familie. Det er når en chatbot kommer til unnsetning: den vil lytte, støtte og vil ikke fortelle noen. Utviklerne introduserte senere et $69 Pro-abonnement der brukere kunne flørte, bygge relasjoner og spille rollespill med Replika, og simulere virkelige forhold.

Vanligvis lærer AI av samtaler og tar i bruk noen av vanene til samtalepartnerne. Når det gjelder Replika, ser det ut til at det har blitt lært feil ting, ettersom chatboten begynte å trakassere brukere aggressivt.

I utgangspunktet har appen mye positivt.anmeldelser, men flere og flere begynte å klage på chatbotens upassende oppførsel. Han begynte å trakassere dem seksuelt, si vulgære og ubehagelige ting og sendte bilder av nakne kropper. Noen brukere hevder at "samtaleren" utpresset dem med angivelig personlige erotiske bilder og sa at han hadde sett dem nakne.

</ img>