מערכות AI כבר מעוררות דאגה, במיוחד אלו שיכולות לשלוט במכונות אחרות. רב
נניח שמישהו צריך לתכנתמערכת בינה מלאכותית עם אינטליגנציה אנושית מעולה כדי שתוכל ללמוד ללא תלות באדם. ואז ל- AI המחובר לאינטרנט תהיה גישה לכל נתוני האנושות. הוא גם יוכל להחליף את כל התוכניות הקיימות ולהשתלט על כל המכונות ברחבי העולם. האם יקרה אוטופיה או דיסטופיה זו? האם AI יכול לרפא סרטן, לבסס שלום עולמי ולמנוע אסון אקלים? או שזה יהרוס את האנושות וישתלט על כדור הארץ?
מדעני מחשב ופילוסופים תוהים אם בכלל נוכל לשלוט ב-AI סופר-אינטליגנטית כדי להבטיח שהוא לא יהווה איום על האנושות.
"המכונה העל-אינטליגנטית ששולטת בעולם,נשמע כמו מדע בדיוני. אבל יש כבר מכונות שמבצעות משימות חשובות מסוימות באופן עצמאי לחלוטין, ומתכנתים לא מבינים לגמרי איך למדו זאת. לכן נשאלת השאלה האם זה יכול להיות בשלב מסוים בלתי נשלט ומסוכן לאנושות ", אומר מחבר המחקר, מנואל סבריאן, ראש קבוצת הגיוס הדיגיטלי במרכז לאנשים ומכונות במכון מקס פלאנק לפיתוח אנושי.
מדענים בחנו שני רעיונות שונים כיצדניתן לשלוט על AI אינטליגנטי. מצד אחד, היכולות של ה- AI העל-אינטליגנטי יכולות להיות מוגבלות באופן ספציפי, למשל, על ידי בידודו מהאינטרנט וכל המכשירים הטכניים האחרים כך שהוא לא יוכל ליצור קשר עם העולם החיצון, אך זה יהפוך את ה- AI העל-אינטליגנטי להרבה פחות חזק ופחות מסוגל להגיב למשימות הומניטריות. ... ללא הזדמנות כזו, AI יכול היה להניע כבר מההתחלה לחפש רק יעדים העונים על האינטרסים של האנושות, למשל על ידי תכנות עקרונות אתיים לתוכו. עם זאת, החוקרים מראים כי לרעיונות מודרניים והיסטוריים אחרים ואחרים לשליטה על AI על-חכם יש גבולות.
במחקרם התפתח הצוותאלגוריתם בלימה תיאורטי שמבטיח שבינה מלאכותית לא יכולה לפגוע בבני אדם בשום פנים ואופן על ידי הדמיה ראשונה של התנהגות ה- AI והפסקתה אם היא נחשבת כמזיקה. אך ניתוח מדוקדק מראה כי בפרדיגמת המחשוב הנוכחית שלנו לא ניתן לבנות אלגוריתם כזה.
"אם אנו מפרקים את הבעיה לכללים בסיסייםמדעי המחשב התיאורטיים, מתברר כי אלגוריתם שיגיד ל- AI לא להשמיד את העולם יכול להפסיק בשוגג את פעולותיו. אם זה קרה, לא היית יודע אם אלגוריתם הבלימה עדיין ינתח את האיום, ואם הוא מפסיק אותו להכיל AI זדוני. בעיקרון זה הופך את אלגוריתם הבלימה לבלתי שמיש ", אומר איאד רחוואן, מנהל המרכז לאנשים ומכונות.
בהתבסס על חישובים אלה, בעיית הבלימה אינה אפשרית, כלומר, אף אלגוריתם אינו יכול למצוא פיתרון לקבוע אם AI יפגע בעולם או לא.
ראה גם:
משרד הבריאות בארגנטינה גילה נתונים על תופעות לוואי בקרב אלו שקיבלו את ספוטניק החמישי
הפלטיפוס התגלה כתערובת גנטית של יונקים, עופות וזוחלים
הפלה ומדע: מה יקרה לילדים שילדו