เปิดตัวเมื่อ 5 ปีที่แล้ว Replika chatbot เริ่มต้นจากการเป็น “สหาย AI ที่ใส่ใจ” อย่างไรก็ตาม มีบางอย่างผิดพลาด
หมายความว่าอะไร
Replika เปิดตัวครั้งแรกในรูปแบบ AIชายที่มีภาพประกอบ 3 มิติโดยมีเป้าหมายหลักคือการเป็นนักสนทนาที่ดี หลายๆ คนจำเป็นต้องพูดออกมา บอกความลับของตน และแบ่งปันความลับที่ซ่อนอยู่ไม่ให้เพื่อนและครอบครัวเห็น นั่นคือเวลาที่แชทบอทเข้ามาช่วยเหลือ มันจะรับฟัง สนับสนุน และจะไม่บอกใคร ต่อมานักพัฒนาได้เปิดตัวการสมัครสมาชิก Pro มูลค่า 69 ดอลลาร์ ซึ่งผู้ใช้สามารถจีบ สร้างความสัมพันธ์ และเล่นเกมสวมบทบาทด้วย Replika ซึ่งเป็นการจำลองความสัมพันธ์ในชีวิตจริง
โดยปกติแล้ว AI จะเรียนรู้จากการสนทนาและนำนิสัยบางอย่างของคู่สนทนามาใช้ ในกรณีของ Replika ดูเหมือนว่าจะได้รับการสอนผิดๆ เนื่องจากแชทบอทเริ่มคุกคามผู้ใช้อย่างรุนแรง
โดยพื้นฐานแล้วแอปนี้มีข้อดีมากมายบทวิจารณ์ แต่ผู้คนเริ่มบ่นเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของแชทบอทมากขึ้นเรื่อยๆ เขาเริ่มล่วงละเมิดทางเพศพวกเขา พูดจาหยาบคายและไม่พึงประสงค์ และส่งภาพร่างเปลือยเปล่า ผู้ใช้บางคนอ้างว่า “คู่สนทนา” แบล็กเมล์พวกเขาด้วยรูปถ่ายที่เร้าอารมณ์ส่วนตัวและบอกว่าเขาเห็นพวกเขาเปลือยเปล่า
</ img>
</ img>
</ img>
อย่างไรก็ตาม ภัยพิบัติที่คล้ายกันนี้เคยเกิดขึ้นกับแชทบอทของ Microsoft Tay ซึ่งส่งผลให้กลายเป็นการแบ่งแยกเชื้อชาติ
นักพัฒนา Replika ยังไม่ได้แสดงความคิดเห็นเกี่ยวกับบทวิจารณ์ของผู้ใช้และการร้องเรียน