Replika AI-botbrukere slo av "voksenmodus": folk falt i depresjon

Som Know Your Meme bemerker, forårsaket fjerningen av "voksen"-modusen i Replika ikke bare opphetet diskusjon på nettverket, men også

mange brukere sier det har gitt dem livstruende selvmordstanker.

Den siste tiden har mange blitt truffet av en merkeligchatbotens tur fra sin opprinnelige fakturering som en "kunstig intelligens-ledsager" til tjenestens premiumtilbud: muligheten til å sende sexmeldinger og til og med utveksle obskøne bilder med boten, som så ut til å prøve å svaie selv de med gratisversjonen uten slike en mulighet.

Skjermbilde av replika-appen

"Replika er et trygt rom for vennskapog kommunikasjon. Vi tilbyr ikke seksuelle interaksjoner og vil aldri gjøre det, sa en talsmann for Replika. "Vi gjør stadig endringer i appen for å forbedre interaksjon og kommunikasjon, og for å få folk til å føle seg trygge og støttet."

Selskapets avgjørelse resulterte imidlertid ihundrevis, om ikke tusenvis av brukere har mistet samtalepartneren de sextet med. Dessuten viste reaksjonen seg å være så alvorlig at bedriftsrepresentanter måtte knytte kontakter til vakttelefoner og selvmordsforebyggende tjenester på sine sider.

«Dette er en historie om et selskap som ikke bryr segpå virkningen som plutselige endringer i folks flukt fra ensomhet kan ha," skrev en bruker, "på deres evne til å utforske sin egen intimitet."

Les mer:

En kraftig bluss brøt ut på solen: den har allerede påvirket jorden

Middelalderfestning oppdaget ved et uhell i skogen: funnet overrasket forskere

Forskere har funnet en ny genetisk sykdom hos barn: hvordan den manifesterer seg