חוקרים מאוניברסיטת קליפורניה, סן דייגו פיתחו אלגוריתמים לניקוי דיבור
מומחים ניסו בעבר גישות שונות למנקה את הדיבור של בוטים, אבל הם התבררו כלא יעילים. רישום מילים רעילות משאיר מילים שבשימוש מחוץ להקשר ולבד, נראות נורמליות, אך הופכות לפוגעניות כאשר משתמשים בהן בשילוב עם אחרים. הניסיון להסיר דיבור רעיל מנתוני האימון הוא זמן רב ורחוק מלהיות אמין. בעיות דומות מתעוררות בעת פיתוח רשת עצבית שתזהה דיבור רעיל.
עכשיו מומחים למדעי המחשבמאוניברסיטת קליפורניה בסן דייגו ניסו שיטה חדשה. ראשית, הם הזינו רמזים "מזיקים" למודל שפה מיומן מראש כדי לאלץ אותו ליצור תוכן רעיל. לאחר מכן החוקרים אימנו מודל שהם כינו "רוע" כדי לחזות את הסבירות שתוכן יהיה פוגעני. המהנדסים הכשירו אז את "המודל הטוב", שלימדו להימנע מכל תוכן שזכה לדירוג גבוה על ידי "המודל המרושע".
כתוצאה מכך, מחברי הפיתוח אישרו כי שלהם"המודל הטוב" הוכיח את עצמו כיעיל יותר מהשיטות המודרניות ביותר. החוקרים הציגו את עבודתם בכנס המקוון של AAAI בנושא בינה מלאכותית.
קרא עוד:
זה ניצוד במשך מאות שנים: מה אנחנו יודעים על כוכב הלכת וולקן ליד השמש
פיזיקאים אישרו בניסוי חוק יסוד חדש לנוזלים
אסטרונומים מצאו את המקור לפרצי רדיו מסתוריים שמגיעים מהחלל