איך הכל התחיל?
דו"ח חדש של האו"ם פורסם בספטמבר 2021. מומחים למדו כיצד מדינות וחברות
אתמול ראש זכויות האדם של האו"ם מישלBachelet, קרא להקפאת השימוש בטכנולוגיות בינה מלאכותית, המהוות איום חמור על זכויות האדם. כולל מערכות לסריקת אנשים העוקבים אחר אנשים במקומות ציבוריים. היא ציינה שמדינות צריכות לאסור באופן מיידי יישומי בינה מלאכותית שאינן עומדות בחוק זכויות האדם הבינלאומי.
היכן השימוש ב-AI אינו מקובל?
יישומים להחריםאלה כוללים מערכות "דירוג חברתי" ממשלתיות שמעריכות אנשים על סמך התנהגותם, וכלים מסוימים מבוססי בינה מלאכותית המחלקים אנשים לקבוצות, כמו מוצא אתני או מגדר.
טכנולוגיות המבוססות על מלאכותימודיעין "יכול להיות כוח לטובה" ויכול גם להוביל ל"תוצאות שליליות, אפילו קטסטרופליות", אם נעשה בו שימוש ללא התחשבות כיצד הם משפיעים על זכויות האדם, אמר Bachelet בהצהרה.
"זה לא קשור לחוסר מלאכותימודיעין", הסבירה לכתבים פגי היקס, מנהלת אינטראקציה נושאית במרכז זכויות האדם של האו"ם. היא פנתה לתקשורת בזמן שהציגה את הדו"ח בז'נבה. "הנקודה היא שאם בינה מלאכותית עומדת לשמש בתחומים פונקציונליים חשובים מאוד הקשורים לזכויות אדם, אז זה חייב להיעשות בצורה נכונה. ו פשוט לא יצרנו את המבנה ש מבטיח את זה".
באצ'לט לא קרא לאסור מוחלטטכנולוגיית זיהוי פנים, אך ציינו שממשלות צריכות להפסיק לסרוק התנהגות של אנשים בזמן אמת. לדוגמה, להעריך את ביצועי הצוות. אתה צריך לוודא שהטכנולוגיה מדויקת ושה-AI הוא חסר פניות ועומד בתקני פרטיות והגנה על נתונים.
הדו"ח גם העלה חששות לגבימכשירים המנסים לקבוע את מצבם הרגשי והנפשי של אנשים על ידי ניתוח הבעות הפנים או תנועות הגוף שלהם. מומחים מדגישים כי טכנולוגיות כאלה כפופות להטיה, פרשנות שגויה והיעדר בסיס מדעי.
"השימוש במערכות על ידי רשויות המדינהזיהוי רגשות, למשל כדי להדגיש אנשים למעצר או מעצר משטרתי, או להעריך את אמיתות הצהרות במהלך חקירות, מסתכן בפגיעה בזכויות אדם כמו פרטיות, חירות והגינות של מערכת המשפט", נכתב בדו"ח.
איפה הבעיה של שימוש בבינה מלאכותית חריפה במיוחד?
למרות השמות של מדינות ספציפיות בדוחלא מוזכרים, כדאי להזכיר את סין. הבה נזכיר כי בחודש מאי השיקו הרשויות תוכנית לבדיקת מצלמות לזיהוי רגשות על האויגורים באזור המערבי של שינג'יאנג. והכרה באויגורים עצמם. הבה נזכיר שבשנת 2018, ארגון Human Rights Watch פרסם דו"ח על רדיפת האוכלוסייה המוסלמית באזור שינג'יאנג הסיני. לטענת הארגון, בשנים האחרונות עוכבו שם אויגורים בהמוניהם ולעיתים ללא סיבה, כשהם שמים אותם בבתי סוהר ובמחנות חינוך; מיליוני אנשים נמצאים תחת מעקב וידאו מתמיד, ומעמדם החברתי וגורלם תלויים בנקודות שנצברו במערכת "הקרדיט החברתי".
עם זאת, מחברי המפתח של הדו"ח אמרו כי מתן שמות למדינות ספציפיות אינו בסמכותם ואף עלול להועיל.
"בהקשר הסיני, איךובהקשרים אחרים, אנו מודאגים משקיפות ויישומים מפלים המכוונים לקהילות ספציפיות", מסבירה דוברת האו"ם פגי היקס.
היא ציטטה כמה מקרי בית משפט בארצות הברית ובאוסטרליה שבהם נעשה שימוש לרעה בבינה מלאכותית.
אחד התקדימים הקולניים ביותר בארצות הברית -המצב עם אמזון. תאגיד זה הוא אחד ממרכזי הפיתוח בתחום הבינה המלאכותית. ב-2017, החברה סגרה פרויקט גיוס פיילוט מבוסס בינה מלאכותית שהפעילה כבר כמעט שלוש שנים. אחת הבעיות המרכזיות הייתה אפליה מגדרית של מועמדים – האלגוריתם המעיט בהערכות של נשים מועמדות.
בינתיים, באוסטרליה, בית המשפט יצר פורץ דרךתקדים. מערכות בינה מלאכותית ניתנות כיום להכרה משפטית כממציאים בבקשות לפטנטים. עם זאת, לא כולם הסכימו להחלטה זו.
מה השורה התחתונה?
המלצות הדוח משקפות את דעותיהם של רביםמנהיגים פוליטיים בדמוקרטיות מערביות. חשוב לא רק לרתום את הפוטנציאל הכלכלי והחברתי של בינה מלאכותית, אלא גם לתת מענה לחששות הגוברים לגבי מהימנותם של כלים שעוקבים אחר אנשים ופרופילים אותם.
שרת המסחר האמריקאית ג'ינה ריימונדו במהלךועידה וירטואלית ביוני חיזקה את חששותיהם של פקידי האו"ם. "זה מפחיד לחשוב איך אפשר להשתמש בו כדי לחזק עוד יותר את הנטיות המפלות", אמרה, "אנחנו צריכים לוודא שאנחנו לא מאפשרים את זה".
לפיכך, הרגולטורים האירופיים כברנקטו צעדים כדי לרסן את יישומי הבינה המלאכותית המסוכנים ביותר. הכללים המוצעים, שנקבעו על ידי פקידי האיחוד האירופי השנה, יאסרו שימושים מסוימים בבינה מלאכותית, כגון סריקת פנים בזמן אמת, וישלוט באופן הדוק על שימושים אחרים שעלולים לאיים על בטיחותם או זכויות האדם של אנשים.
לקרוא נוסף
סירה ייחודית הופכת לצוללת תוך שתי דקות ואינה נראית לאויב
פיזיקאים קיררו אטומים לטמפרטורה הנמוכה ביותר בעולם
המודל המפורט ביותר של היקום פורסם באינטרנט. כל אחד יכול ללמוד את זה