การทดลอง "VKontakte" จะฝึก AI ให้รู้จักการดูหมิ่นในความคิดเห็น

ภายใน 24 ชั่วโมง VKontakte จะทดสอบฟังก์ชันใหม่สองฟังก์ชัน ตามที่นักพัฒนานวัตกรรมจะช่วยได้

ผู้ใช้แพลตฟอร์มมีโอกาสน้อยที่จะเผชิญหน้ากับการไม่อดทนประเภทต่างๆ เรากำลังพูดถึงเรื่องการประหัตประหารตามสัญชาติ การดูถูกเหยียดหยามศาสนา และการคุกคาม ผู้ดูแลระบบแพลตฟอร์มจะสามารถเปิดใช้งานตัวกรองพิเศษสำหรับคำพูดที่ไม่เป็นมิตรในการตั้งค่าชุมชน ในส่วนของผู้แสดงความเห็นจะเห็นข้อเสนอให้ปฏิเสธคำพูดที่ไม่เหมาะสม เครื่องมือทั้งสองทำงานบนพื้นฐานของอัลกอริธึม รวมถึงโครงข่ายประสาทเทียมที่จดจำคำดูหมิ่น

วันนี้ 4 พฤศจิกายนเป็นวันที่จะมีการทดลองเกี่ยวกับการแนะนำอัลกอริทึมใหม่ในการตั้งค่าชุมชนจะสามารถเปิดใช้งานตัวกรองคำสั่งที่ไม่เป็นมิตรได้ โครงข่ายประสาทเทียมจะลบความคิดเห็นที่มีภัยคุกคามโดยตรงต่อชีวิตและสุขภาพของมนุษย์ อย่างไรก็ตามผู้ดูแลระบบจะเห็นความคิดเห็นทั้งหมดที่ตัวกรองปฏิเสธ เขาจะมีทางเลือก - เพื่อกู้คืนแบบจำลองที่ถูกลบหรือส่งผู้เขียนไปยังบัญชีดำของชุมชน ควรกล่าวว่าตัวกรองคำพูดแสดงความเกลียดชังรุ่นทดลองใหม่สามารถเปิดหรือปิดได้ตลอดเวลา

โครงข่ายประสาทเทียมของแพลตฟอร์มยังคงเรียนรู้และพัฒนาต่อไป ตามที่ระบุไว้ใน VKontakte ผลลัพธ์ของการทดสอบจะถูกนำมาใช้เพื่อการฝึกอบรมเพิ่มเติมและปรับปรุงประสิทธิภาพของตัวกรอง

ฟังก์ชั่นที่คล้ายกันนี้มีอยู่แล้วในโซเชียลเน็ตเวิร์กหลายแห่งตัวอย่างเช่น Instagram รับรู้ถึงความคิดเห็นที่ไม่เป็นมิตร และก่อนที่ผู้ใช้จะเผยแพร่ แพลตฟอร์มจะแจ้งให้ผู้ใช้ยกเลิกการสมัคร โดยเตือนว่าเนื้อหาที่ไม่เหมาะสมอาจถูกลบออก 

ปัญหาการล่วงละเมิดทางออนไลน์ได้รับความสนใจจากนักวิทยาศาสตร์และนักวิจัยมานานแล้ว แต่ในช่วงไม่กี่ปีที่ผ่านมาได้รับความสนใจเป็นอย่างมาก

อ่านยัง

ภารกิจประจำปีในอาร์กติกสิ้นสุดลงแล้วและข้อมูลน่าผิดหวัง อะไรรอมนุษยชาติอยู่?

นักวิทยาศาสตร์พยายามทำความเข้าใจว่านิวตรอนมีชีวิตอยู่ได้นานแค่ไหน ทำไมมันถึงยากและสำคัญขนาดนี้?

นักดาราศาสตร์ได้ค้นพบควาซาร์ที่มีลมพัดแรงที่สุด