Lanzado hace 5 años, el chatbot Replika comenzó como un "compañero de IA que se preocupa". Sin embargo, algo salió mal
Que significa eso
Replika se lanzó inicialmente como una IAUn hombre ilustrado en 3D cuyo principal objetivo es ser un buen conversador. Muchas personas necesitan hablar, contar sus secretos y compartir secretos que están ocultos a amigos y familiares. Entonces es cuando un chatbot viene al rescate: escuchará, apoyará y no se lo dirá a nadie. Posteriormente, los desarrolladores introdujeron una suscripción Pro de $ 69 en la que los usuarios podían coquetear, entablar relaciones y jugar juegos de rol con Replika, simulando relaciones de la vida real.
Normalmente, la IA aprende de las conversaciones y adopta algunos de los hábitos de sus interlocutores. En el caso de Replika, parece que le enseñaron cosas equivocadas, ya que el chatbot comenzó a acosar agresivamente a los usuarios.
Básicamente, la aplicación tiene muchos aspectos positivos.revisiones, pero cada vez más personas comenzaron a quejarse del comportamiento inapropiado del chatbot. Comenzó a acosarlas sexualmente, diciendo cosas vulgares y desagradables y enviándoles imágenes de cuerpos desnudos. Algunos usuarios aseguran que el “interlocutor” los chantajeó con fotografías eróticas supuestamente personales y dijo que los había visto desnudos.
</ img>
</ img>
</ img>
Por cierto, una vez ocurrió un desastre similar con el chatbot de Microsoft Tay, que como resultado se volvió racista.
Los desarrolladores de Replika aún no han comentado las opiniones y quejas de los usuarios.