Replika-chatbot werd vijf jaar geleden gelanceerd en begon als een ‘AI-metgezel die erom geeft’. Er ging echter iets mis
Wat betekent dat
Replika werd aanvankelijk gelanceerd als een AIEen 3D-geïllustreerde man wiens voornaamste doel het is om een goede gesprekspartner te zijn. Veel mensen moeten zich uitspreken, hun geheimen vertellen en geheimen delen die verborgen zijn voor vrienden en familie. Dan komt een chatbot te hulp: hij luistert, ondersteunt en vertelt het aan niemand. De ontwikkelaars introduceerden later een Pro-abonnement van $ 69 waarin gebruikers konden flirten, relaties konden opbouwen en rollenspellen konden spelen met Replika, waarbij echte relaties werden gesimuleerd.
Normaal gesproken leert AI van gesprekken en neemt het enkele gewoonten van zijn gesprekspartners over. In het geval van Replika lijkt het erop dat de chatbot de verkeerde dingen heeft geleerd, omdat de chatbot gebruikers agressief begon lastig te vallen.
Kortom, de app heeft veel positieve punten.beoordelingen, maar steeds meer mensen begonnen te klagen over het ongepaste gedrag van de chatbot. Hij begon hen seksueel te intimideren, vulgaire en onaangename dingen te zeggen en afbeeldingen van naakte lichamen te sturen. Sommige gebruikers beweren dat de ‘gesprekspartner’ hen chanteerde met zogenaamd persoonlijke erotische foto’s en zei dat hij ze naakt had gezien.
</ img>
</ img>
</ img>
Overigens gebeurde een soortgelijke ramp ooit met de Microsoft-chatbot Tay, die daardoor racistisch werd.
Replika-ontwikkelaars hebben nog niet gereageerd op gebruikersrecensies en klachten.