אלגוריתם המבוסס על טעויות אנושיות יעזור באימון AI

בניסוי קלאסי של הפסיכולוגים פליקס וורנקן ומייקל טומאסלו על חברתי אנושי

מבחינה אינטלקטואלית, תינוק בן 18 חודשים מתבונן כיצדאדם נושא ערימת ספרים לארון סגור. כשהוא מתקרב לארון, הוא דופק מספר פעמים את ספריו בדלת הארון, ואז משמיע קול תמוה.

ואז קורה משהו מדהים:ילד מציע עזרה. לאחר שזיהה את מטרת האדם, התינוק ניגש לארון ופותח את שעריו ומאפשר לאיש להכניס את ספריו פנימה. אבל איך פעוט עם ניסיון חיים כה מוגבל יכול להגיע למסקנה כזו?

לאחרונה מדעני המחשב הפנו את השאלה הזו למחשבים: איך מכונות יכולות לעשות את אותו הדבר?

מרכיב קריטי ליצירההבנה כזו היא שגיאות. כמו שפעוט יכול להסיק רק את מטרתו של האדם על סמך כישלונותיו, המכונות הקובעות את מטרותיו של האדם חייבות לקחת בחשבון את פעולותינו והתוכניות הלקויות שלנו.

במאמץ לשחזר את האינטליגנציה החברתית הזובמכונות, חוקרים במעבדה למדעי המחשב ובינה מלאכותית (CSAIL) של המכון הטכנולוגי של מסצ'וסטס יצרו אלגוריתם המסוגל לזהות מטרות ותוכניות, גם אם תוכניות אלה עלולות להיכשל.

סוג זה של מחקר יכול להיות בסופו של דברמשמש לשיפור מגוון טכנולוגיות מסייעות, רובוטים לשיתוף פעולה או טיפול, ועוזרים דיגיטליים כמו סירי ואלכסה.

"סוכן" ו"צופה "מדגימים עד כמה הם חדשיםאלגוריתם ה- MIT מסוגל לקבוע יעדים ותוכניות גם אם תוכניות אלה עלולות להיכשל. כאן הסוכן מתכנן פגום להגיע לפנינה הכחולה שהמתבונן רואה בה אפשרית. קרדיט: המכון הטכנולוגי של מסצ'וסטס

"יכולת זו להסביר שגיאות יכולה להיותקריטי לבניית מכונות המסיקות באופן מהימן ופועלות מטעמנו, מסביר טאנג צ'י-שואן, דוקטורט, סטודנט ב- MIT ומחבר ראשי של עבודת מחקר חדשה "אחרת, מערכות AI עשויות להסיק בטעות שמכיוון שלא הצלחנו להשיג את יעדי הסדר הגבוה שלנו, מטרות אלה היו בסופו של דבר לא רצויות."

כדי ליצור את המודל שלהם, הצוות השתמשGen, פלטפורמת תכנות AI חדשה שפותחה לאחרונה ב- MIT כדי לשלב תכנון AI סמלי עם הסקת Bayesian. מסקנת Bayesian מספקת דרך אופטימלית לשלב אמונות לא ודאיות עם נתונים חדשים והיא נמצאת בשימוש נרחב לצורך הערכת סיכונים פיננסיים, בדיקות אבחוניות וחיזוי בחירות.

בעת יצירת האלגוריתם "חיפוש רציףתכנון הפוך (SIPS) "מדענים העניקו השראה לדרך כללית של תכנון אנושי שאינה אופטימלית במידה רבה. ייתכן שאדם לא מתכנן הכל מראש, אלא מתכנן תוכניות חלקיות, מיישם אותן ועל סמך תוצאות חדשות מתכנן שוב תוכניות. זה אמנם יכול להוביל לשגיאות בגלל חשיבה לא מספקת "מראש", אך חשיבה מסוג זה מפחיתה את העומס הקוגניטיבי.

מדענים מקווים שהמחקר שלהם יניח את הבסיסמסגרות פילוסופיות ורעיוניות חדשות הדרושות ליצירת מכונות שמבינות באמת את המטרות, התוכניות והערכים האנושיים. הגישה הבסיסית החדשה של עיצוב בני אדם כהוגים לא מושלמים נראית מבטיחה מאוד למהנדסים. 

קרא גם

20 מינים חדשים של בעלי חיים וצמחים שנמצאו בהרי האנדים

ישנם כבישים מהירים במרחב לנסיעה מהירה. כיצד ישתנו טיסות?

נקרא צמח שלא מפחד משינויי אקלים. זה מאכיל מיליארד אנשים