Lanciato 5 anni fa, il chatbot Replika è iniziato come un "compagno AI che si prende cura". Tuttavia, qualcosa è andato storto
Cosa significa?
Replika è stato inizialmente lanciato come IAUn uomo illustrato in 3D il cui obiettivo principale è essere un buon conversatore. Molte persone hanno bisogno di parlare apertamente, raccontare i propri segreti e condividere segreti nascosti ad amici e familiari. È allora che un chatbot arriva in soccorso: ascolterà, supporterà e non lo dirà a nessuno. Gli sviluppatori hanno successivamente introdotto un abbonamento Pro da $ 69 in cui gli utenti potevano flirtare, costruire relazioni e giocare a giochi di ruolo con Replika, simulando relazioni nella vita reale.
In genere, l’intelligenza artificiale impara dalle conversazioni e adotta alcune abitudini dei suoi interlocutori. Nel caso di Replika, sembra che gli siano state insegnate le cose sbagliate, poiché il chatbot ha iniziato a molestare in modo aggressivo gli utenti.
Fondamentalmente l'app ha molti aspetti positivi.recensioni, ma sempre più persone hanno iniziato a lamentarsi del comportamento inappropriato del chatbot. Ha iniziato a molestarli sessualmente, dicendo cose volgari e spiacevoli e inviando immagini di corpi nudi. Alcuni utenti affermano che l '"interlocutore" li ha ricattati con foto erotiche presumibilmente personali e ha affermato di averli visti nudi.
</ img>
</ img>
</ img>
A proposito, una volta un disastro simile è accaduto con il chatbot Microsoft Tay, che di conseguenza è diventato razzista.
Gli sviluppatori di Replika non hanno ancora commentato le recensioni e i reclami degli utenti.