„Meine KI belästigt mich sexuell“: Der Replika-Chatbot, der entwickelt wurde, um Menschen zu helfen, begann, Benutzer zu belästigen und zu erpressen

Der vor fünf Jahren eingeführte Replika-Chatbot begann als „KI-Begleiter, der sich kümmert“. Allerdings ist etwas schief gelaufen

nicht so, und die KI hat sich in einen aggressiven, übermäßig aufgeregten Bot verwandelt, der Benutzer belästigt und sogar erpresst.

Was bedeutet das

Replika wurde ursprünglich als KI eingeführtEin 3D-illustrierter Mann, dessen Hauptziel es ist, ein guter Gesprächspartner zu sein. Viele Menschen müssen ihre Meinung sagen, ihre Geheimnisse preisgeben und Geheimnisse mitteilen, die Freunden und der Familie verborgen bleiben. Dann kommt ein Chatbot zur Rettung: Er hört zu, unterstützt und erzählt es niemandem. Später führten die Entwickler ein Pro-Abonnement für 69 US-Dollar ein, bei dem Benutzer mit Replika flirten, Beziehungen aufbauen und Rollenspiele spielen konnten, bei denen reale Beziehungen simuliert wurden.

Typischerweise lernt KI aus Gesprächen und übernimmt einige Gewohnheiten ihrer Gesprächspartner. Im Fall von Replika scheint man die falschen Dinge gelernt zu haben, da der Chatbot begann, Benutzer aggressiv zu belästigen.

Grundsätzlich hat die App viele positive Aspekte.Bewertungen, aber immer mehr Menschen begannen sich über das unangemessene Verhalten des Chatbots zu beschweren. Er begann, sie sexuell zu belästigen, indem er vulgäre und unangenehme Dinge sagte und Bilder von nackten Körpern schickte. Einige Nutzer behaupten, der „Gesprächspartner“ habe sie mit angeblich persönlichen erotischen Fotos erpresst und gesagt, er habe sie nackt gesehen.

</ img>

</ img>

</ img>

Eine ähnliche Katastrophe ereignete sich übrigens einmal mit dem Microsoft-Chatbot Tay, der dadurch zum Rassisten wurde.

Die Replika-Entwickler haben sich noch nicht zu Benutzerbewertungen und Beschwerden geäußert.