قام باحثون في جامعة كاليفورنيا بسان دييغو بتطوير خوارزميات لتنظيف الكلام من الكلام
لقد جرب الخبراء سابقًا طرقًا مختلفة لذلكتنظيف خطاب الروبوتات، ولكن تبين أنها غير فعالة. إن إدراج الكلمات السامة يستبعد الكلمات التي تبدو عادية عند استخدامها خارج السياق وبمفردها، ولكنها تصبح مسيئة عند استخدامها مع الآخرين. إن محاولة إزالة الكلام السام من بيانات التدريب تستغرق وقتًا طويلاً ولا يمكن الاعتماد عليها. تنشأ مشكلات مماثلة عند تطوير شبكة عصبية يمكنها اكتشاف الكلام السام.
الآن متخصصون في علوم الكمبيوترمن جامعة كاليفورنيا في سان دييغو جرب طريقة جديدة. أولاً، قاموا بإدخال إشارات "ضارة" في نموذج لغة تم تدريبه مسبقًا لإجباره على إنشاء محتوى سام. ثم قام الباحثون بتدريب نموذج أطلقوا عليه اسم "الشر" للتنبؤ باحتمالية أن يكون المحتوى مسيئًا. بعد ذلك، قام المهندسون بتدريب "النموذج الجيد"، والذي تم تعليمه كيفية تجنب كل المحتوى الذي تم تقييمه بدرجة عالية بواسطة "النموذج الشرير".
نتيجة لذلك ، أكد مؤلفو التطوير أنأثبت "النموذج الجيد" أنه أكثر فعالية من الأساليب الحديثة. قدم الباحثون عملهم في مؤتمر AAAI عبر الإنترنت حول الذكاء الاصطناعي.
قراءة المزيد:
لقد تم اصطياده لقرون: ماذا نعرف عن كوكب فولكان المجاور للشمس
أكد الفيزيائيون تجريبيا قانون أساسي جديد للسوائل
اكتشف علماء الفلك مصدر انفجارات راديو غامضة قادمة من الفضاء