นักวิจัยจากมหาวิทยาลัยแคลิฟอร์เนีย ซานดิเอโกได้พัฒนาอัลกอริทึมเพื่อทำความสะอาดคำพูด
ผู้เชี่ยวชาญได้ลองใช้วิธีการต่างๆ ไปแล้วทำความสะอาดคำพูดของบอท แต่กลับกลายเป็นว่าไม่ได้ผล การใส่คำที่เป็นพิษจะตัดคำที่เมื่อใช้โดยไม่มีบริบทและเพียงอย่างเดียว อาจดูเป็นเรื่องปกติ แต่จะดูไม่เหมาะสมเมื่อใช้ร่วมกับคำอื่นๆ การพยายามลบคำพูดที่เป็นพิษออกจากข้อมูลการฝึกอบรมนั้นใช้เวลานานและไม่น่าเชื่อถือ ปัญหาที่คล้ายกันเกิดขึ้นเมื่อพัฒนาโครงข่ายประสาทเทียมที่จะตรวจจับคำพูดที่เป็นพิษ
ตอนนี้เป็นผู้เชี่ยวชาญด้านวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยแคลิฟอร์เนียที่ซานดิเอโกได้ลองใช้วิธีการใหม่ ประการแรก พวกเขาป้อนสัญญาณที่ "เป็นอันตราย" ให้กับโมเดลภาษาที่ได้รับการฝึกล่วงหน้าเพื่อบังคับให้สร้างเนื้อหาที่เป็นพิษ จากนั้นนักวิจัยได้ฝึกแบบจำลองที่เรียกว่า "ความชั่วร้าย" เพื่อคาดการณ์แนวโน้มที่เนื้อหาจะน่ารังเกียจ จากนั้น วิศวกรจึงได้ฝึกอบรม "แบบจำลองที่ดี" ซึ่งได้รับการสอนให้หลีกเลี่ยงเนื้อหาทั้งหมดที่ได้รับการจัดอันดับสูงโดย "แบบจำลองที่ชั่วร้าย"
เป็นผลให้ผู้เขียนของการพัฒนายืนยันว่าของพวกเขา"แบบอย่างที่ดี" ได้รับการพิสูจน์แล้วว่ามีประสิทธิภาพมากกว่าวิธีการที่ทันสมัยที่สุด นักวิจัยนำเสนอผลงานของพวกเขาในการประชุมออนไลน์ของ AAAI เรื่องปัญญาประดิษฐ์
อ่านเพิ่มเติม:
มันถูกตามล่ามาหลายศตวรรษ: เรารู้อะไรเกี่ยวกับดาววัลแคนข้างดวงอาทิตย์?
นักฟิสิกส์ได้ทดลองยืนยันกฎพื้นฐานใหม่สำหรับของเหลว
นักดาราศาสตร์ได้ค้นพบที่มาของการระเบิดวิทยุลึกลับที่มาจากอวกาศ