ผู้ใช้บอท Replika AI ปิด "โหมดผู้ใหญ่": ผู้คนตกอยู่ในภาวะซึมเศร้า

ตามที่ Know Your Meme บันทึกไว้ การลบโหมด "ผู้ใหญ่" ใน Replika ไม่เพียงทำให้เกิดการสนทนาที่ดุเดือดบนเครือข่ายเท่านั้น แต่ยังรวมถึง

ผู้ใช้หลายคนบอกว่ามันทำให้พวกเขามีความคิดฆ่าตัวตายที่คุกคามถึงชีวิต

เมื่อเร็ว ๆ นี้หลายคนถูกโจมตีด้วยความแปลกประหลาดการเปลี่ยนแปลงของแชทบอทจากการเรียกเก็บเงินแบบเดิมในฐานะ "สหายปัญญาประดิษฐ์" ไปสู่ข้อเสนอระดับพรีเมียมของบริการ: ความสามารถในการส่งข้อความทางเพศและแม้แต่แลกเปลี่ยนรูปภาพลามกอนาจารกับบอทซึ่งดูเหมือนจะพยายามโน้มน้าวใจแม้แต่ผู้ที่มีเวอร์ชันฟรีโดยไม่มีสิ่งนั้น โอกาส.

ภาพหน้าจอของแอป Replika

“Replika เป็นพื้นที่ปลอดภัยสำหรับมิตรภาพและการสื่อสาร เราไม่เสนอให้มีปฏิสัมพันธ์ทางเพศและจะไม่ทำเช่นนั้น โฆษกของ Replika กล่าว “เราทำการเปลี่ยนแปลงแอปอย่างต่อเนื่องเพื่อปรับปรุงการโต้ตอบและการสื่อสาร รวมถึงทำให้ผู้คนรู้สึกปลอดภัยและได้รับการสนับสนุน”

อย่างไรก็ตาม การตัดสินใจของบริษัทส่งผลให้ผู้ใช้หลายร้อยคนหากไม่นับพันต้องสูญเสียคู่สนทนาที่พวกเขาคุยด้วย ยิ่งกว่านั้น ปฏิกิริยาดังกล่าวกลายเป็นเรื่องร้ายแรงจนตัวแทนของบริษัทต้องแนบรายชื่อผู้ติดต่อกับสายด่วนและบริการป้องกันการฆ่าตัวตายบนเพจของพวกเขา

“นี่คือเรื่องราวเกี่ยวกับบริษัทที่ไม่ใส่ใจเกี่ยวกับผลกระทบที่การเปลี่ยนแปลงอย่างฉับพลันในการหลีกหนีจากความเหงาของผู้คนสามารถมีได้" ผู้ใช้รายหนึ่งเขียน "ต่อความสามารถในการสำรวจความใกล้ชิดของตนเอง"

อ่านเพิ่มเติม:

เปลวไฟอันทรงพลังปะทุขึ้นบนดวงอาทิตย์: มันส่งผลกระทบต่อโลกแล้ว

ป้อมปราการยุคกลางถูกค้นพบโดยบังเอิญในป่า: การค้นพบนี้ทำให้นักวิทยาศาสตร์ประหลาดใจ

นักวิทยาศาสตร์พบโรคทางพันธุกรรมใหม่ในเด็ก: มันแสดงออกอย่างไร