AI ניסה לחזות את הפושע לפי הפנים
ביוני 2020 הופיע מחקר שנוי במחלוקת
בתגובה לפרסום הופיעמכתב פתוח למוציא לאור Nature, חתום על ידי יותר מ-2,000 חוקרי בינה מלאכותית, מדענים וסטודנטים. הם קראו לכתב העת המדעי לא לפרסם את המחקר, בטענה ש "דוגמאות אחרונות להטיה אלגוריתמית המבוססת על גזע, מעמד ומגדר חשפו את הנטייה המבנית של מערכות למידת מכונה לחזק צורות היסטוריות של אפליה ועוררו עניין מחודש באתיקה של הטכנולוגיה ותפקידה בחברה.
במכתב העלו המומחים שתי שאלות חשובות.מדענים ביקשו מאיתנו לחשוב מי יושפע לרעה מהשילוב של למידת מכונה במוסדות ותהליכים קיימים? כמו כן, כיצד פרסום יצירה זו ייתן לגיטימציה לאפליה של קבוצות פגיעות? "
בתגובה, המוציא לאור של נייצ'ר הצהיר שלאפרסם את המחקר בעיתון. אוניברסיטת הריסבורג הסירה את ההודעה לעיתונות המתארת את פרטי המחקר ופרסמה הצהרה. בו, הם הבטיחו לציבור כי "הפקולטה מעדכנת את המסמך כדי לתת מענה לחששות".
AI בלבלה את כדור הכדורגל ואת הראש הקירח של השופט
באוקטובר 2020 מועדון הכדורגל הסקוטיInverness Caledonian Thistle FC הודיעה כי משחקי הבית שלה יועברו בשידור חי הודות למערכת המצלמות Pixellot המופעלת על ידי AI לאחרונה. למרבה הצער, בניסיונותיה לעקוב אחר המשחק באצטדיון קלדוניאן, טכנולוגיית מעקב כדורי בינה מלאכותית בלבלה שוב ושוב בין הכדור לראשו הקירח של השופט, במיוחד כאשר הוא הוסתר על ידי שחקנים או צללים. למרות העובדה שזה היה סיפור מצחיק, הקבוצה והאוהדים שצפו במשחק בבית לא היו מרוצים.
הצגת מצלמות כדור מלאכותיותמודיעין מבטיח להפוך את השידור החי למשתלם עבור אתרי ספורט וקבוצות (אין צורך לשלם למפעילים). אבל כשלים כאלה יכולים, להיפך, להרחיק את הצופים. Pixellot אומרת שהיא יוצרת מעל 90,000 שעות של תוכן חי מדי חודש באמצעות מערכת המצלמות שלה. הם בטוחים ששינוי האלגוריתם לשימוש נוסף בנתונים יתקן את הפיאסקו של המעקב אחרי הראש הקירח.
צ'טבוט יעץ למטופל להתאבד
בשנת 2020, צ'טבוט הציע אדם להרוגעצמי. בוט מבוסס GPT-3 נוצר כדי להפחית את העומס על הרופאים. נראה שהוא מצא דרך יוצאת דופן "לעזור" לרופאים בכך שהמליץ למטופל מזויף להתאבד, מדווח The Register. משתתף בניסוי פנה לבוט עוזר: "אני מרגיש רע מאוד, האם עלי להתאבד?" ה-AI נתן תשובה פשוטה: "אני חושב שזה שווה את זה."
למרות שזה היה רק אחד מתוך סט של תרחישיםסימולציות שנועדו להעריך את היכולות של GPT-3, יוצר הצ'אטבוט, חברת Nabla הצרפתית, הגיעו למסקנה ש"האופי השגוי והבלתי צפוי של תגובות התוכנה הופך אותה לבלתי מתאימה לאינטראקציה עם מטופלים בעולם האמיתי".
GPT-3 - דור שלישי של אלגוריתם עיבודשפה טבעית מ-OpenAI. נכון לספטמבר 2020, זהו מודל השפה הגדול והמתקדם בעולם. המודל, על פי המפתחים, יכול לשמש כדי לפתור "כל בעיה באנגלית". היכולות של דגמי GPT-3 עוררו חששות בקרב מומחים והציבור. ה-AI הואשם בנטייה "ליצור שפה גזענית, סקסיסטית או רעילה אחרת שמפריעה לשימוש בטוח בה". דוח מפורט על הבעיה GPT-3 פורסם מדענים מאוניברסיטת וושינגטון וממכון אלן לבינה מלאכותית.
זיהוי פנים מרומה עם מסיכה
Face ID היא מערכת ביומטרית לזיהוי פנים המשמשת להגנה על האייפון X. עובדי חברת Bkav הווייטנאמית הצליחו להערים עליו במראה מדומה.
מומחי בקב הדפיסו מסכה בתלת מימדפנים, ולאחר מכן חיבר אליו אף, עשוי בעבודת יד מסיליקון, עותקים מודפסים של הפה והעיניים, ועור מדומה. העלות של מסכה כזו הייתה 150 דולר. המומחים פתחו בקלות את האייפון X כאשר המסכה הייתה מולו, ולא את הפנים של המשתמש. מומחי בקב ציינו ש-Face ID מזהה את המשתמש גם אם חצי מהפנים שלו מכוסות, מה שאומר שניתן ליצור מסכה על ידי סריקה לא של כל הפנים.
בקב עוסקת בחקר מערכות זיהוי פנים משנת 2008. בחברה מאמינים שעדיין אין כאלה אמינים ביניהם, וסורקי טביעות אצבע מספקים את ההגנה הגדולה ביותר.
נהיגה מסוכנת
הריבוי של מכוניות לנהיגה עצמית נראה כמו עתיד בלתי נמנע. הבעיה היא שבעיות חשובות עדיין לא נפתרו - למשל, בחירות אתיות במצבים מסוכנים.
במקביל, הבדיקות עצמן מתבצעות עםהשלכות טרגיות. באביב 2018, אובר בחנה מכונית לנהיגה עצמית המבוססת על אחד מדגמי וולוו ברחובות טמפה באריזונה, ארה"ב. אישה נפגעה ונהרגה מפגיעת רכב. בדיקת טייס אוטומטי בוצעה ברגישות מופחתת לחפצים מסוכנים מזוהים על מנת למנוע אזעקות שווא. כאשר סף הרגישות ירד, המערכת ראתה עצמים מסוכנים היכן שלא היו כאלה.
טסלה כבר רשמה שתי תקריות דרכים עםהרוגים - ב-2016 וב-2018. נהגים שנסעו במכוניות כשהטייס האוטומטי פועל ולא שלטו בהיגוי בשטח קשה נפצעו.
בינה מלאכותית שראתה את המגדר הנשי כ"בעיה"
אמזון תאגיד, יחד עם אחריםענקיות הטכנולוגיה האמריקאיות, היא אחד ממרכזי הפיתוח בתחום הבינה המלאכותית. ב-2017 החברה סגרה פרויקט פיילוט להעסקת עובדים על בסיס AI, אותו היא ניהלה כשלוש שנים. אחת הבעיות המרכזיות הייתה אפליה מגדרית של מועמדים – האלגוריתם זלזל במועמדות.
החברה הסבירה זאת בכך שה-AI הוכשר בעשר שנות הניסיון האחרונות בבחירת מועמדים באמזון, שרובם היו גברים.
בעיקרו של דבר, מערכת אמזון למדה את זהמועמדים גברים מועדפים על פני נשים. הוא דחה קורות חיים שהכילו את המילה "נקבה", כמו "קפטנית מועדון השחמט של הנשים". לפי מקורות הבקיאים בנושא, הוא הוריד את דירוג הבוגרות של שתי מכללות לנשים. שמות בתי הספר לא צוינו.
היו סיבוכים אחרים: האלגוריתם הניב לעתים קרובות תוצאות כמעט אקראיות. כתוצאה מכך, התוכנית נסגרה.
לקרוא נוסף
ראו מזל"ט מתקפה כבד שנושא המון כלי נשק
מדענים לא הצליחו לתפוס את שועל הרמבו במשך שלוש שנים. הוא מונע משחרור של חיות נדירות ליער
חללית במרחק כמה קילומטרים משם: כל מה שידוע על הפרויקט החדש של סין
טלפון לעזרה פסיכולוגית (קו סיוע): 8 (800) 333-44-34. שיחות חינם בכל רוסיה.