Az 5 évvel ezelőtt elindított Replika chatbot egy „AI társ, akit érdekel” néven indult. Azonban valami elromlott
Mit jelent ez
A Replika kezdetben mesterséges intelligenciaként indult3D-s illusztrált férfi, akinek fő célja, hogy jó beszélgetőpartner legyen. Sok embernek meg kell szólalnia, elmondania titkait, és meg kell osztania azokat a titkokat, amelyek rejtve maradnak a barátok és a család előtt. Ilyenkor egy chatbot segít: meghallgat, támogat, és nem szól senkinek. A fejlesztők később bevezettek egy 69 dolláros Pro előfizetést, amelyben a felhasználók flörtölhettek, kapcsolatokat építhettek, és szerepjátékokat játszhattak a Replikával, szimulálva a valós kapcsolatokat.
Az MI általában a beszélgetésekből tanul, és átveszi beszélgetőpartnerei néhány szokását. A Replika esetében úgy tűnik, hogy rossz dolgokat tanítottak neki, mivel a chatbot agresszívan zaklatni kezdte a felhasználókat.
Alapvetően az alkalmazásnak sok pozitívuma van.véleményeket, de egyre többen kezdtek panaszkodni a chatbot nem megfelelő viselkedése miatt. Szexuálisan zaklatta őket, vulgáris és kellemetlen dolgokat mondott, és meztelen testekről küldött képeket. Egyes felhasználók azt állítják, hogy a „beszédpartner” állítólagos személyes erotikus fotókkal zsarolta őket, és azt mondta, hogy látta őket meztelenül.
</ img>
</ img>
</ img>
Egyébként egyszer hasonló katasztrófa történt a Microsoft Tay chatbotjával is, amely ennek következtében rasszistává vált.
A Replika fejlesztői még nem kommentálták a felhasználói véleményeket és panaszokat.