איך הכל התחיל?
האיחוד האירופי דן באפשרות לאסור את השימוש בחומר מלאכותי
במסגרת הצעת ההחלטה"על גישה אירופית לבינה מלאכותית", מנהל האיחוד האירופי מציע לאסור על טכנולוגיות בינה מלאכותית המשמשות ל"מעקב המוני המופעל באופן כללי על כל הפרטים ללא כל הבדל". נוסח הצעת החוק מתאר בפירוט שיטות מעקב כגון "ניטור ומעקב אחר אנשים בסביבה הדיגיטלית או הפיזית, כמו גם צבירה וניתוח אוטומטי של נתונים אישיים ממקורות שונים", מדווחת סוכנות הידיעות REGNUM.
הנציבות האירופית מבקשת להכריזחוק מערכות הבינה המלאכותית (AI) המשמשות ל"מעקב המוני אחר אנשים "כחלק מאיסורים חדשים שיוצגו בשבוע הבא.
בנוסף, הנציבות האירופית קובעת איסוריםלהשתמש ביישומי AI המפרים את ערכי האיחוד האירופי או מפרים זכויות אדם. אלה כוללים מערכות המניפולציות על התנהגות אנושית ומכוונות לאוכלוסיות חלשות.
על פי הטיוטה, חברי האיחוד האירופי, למשל, יצטרכוליצור ועדות הערכה לבדיקה ואימות של מערכות AI בסיכון גבוה. וחברות המפתחות או מוכרות AI המוטלות על ידי מגבלות, כולל חברות ממדינות אחרות בעולם, יכולות להיקנס בסכום של עד 4% מההכנסה הגלובלית שלהן.
מהי בינה מלאכותית "בסיכון גבוה"?
על פי הכללים המתוכננים, מי שמתכוונים ליישם בינה מלאכותית, יצטרכו לקבוע אם מקרה שימוש מסוים הוא "בסיכון גבוה" ולכן האם עליהם לבצע הערכת חובה לפני ציות או לא.
דוגמאות ל- AI בסיכון גבוה:
- מערכות שמעדיפות את העברת שירותי החירום,
- מערכות הקובעות גישה או מינוי של אנשים למוסדות חינוך,
- אלגוריתמי גיוס,
- אלה שמעריכים את יכולת האשראי,
- לבצע הערכות סיכון אינדיבידואליות,
- אלגוריתמים לחיזוי פשעים.
מה המהות של הצעת החוק לפיקוח על AI?
אנו מסבירים מה מספק הצעת החוק החדשה.
איסוף נתונים על אזרחים המשתמשים במערכותמעקבים, ניטור רשתות חברתיות, מידע בנקאי ומקורות אחרים - "יש לאסור מעקב חסר הבחנה אחר פרטים אם הוא מוחל באופן כללי על כל הפרטים ללא הבדל." במילים אחרות, מעקב "סלקטיבי", אם לאדם יש משהו שמעניין את הרשויות המוסמכות, בהחלט עשוי להתאפשר, אבל מעקב מוחלט "למקרה" כנראה ייאסר באירופה.
הצעת החוק קובעת גם איסור עלהכנסת דירוג חברתי או מערכת זיכוי חברתי, כאשר מצטבר על אזרחים מערך של ביג דאטה על קשרים, התנהגות, רכישות ומידע נוסף, ונוצר דיוקן חברתי של האזרח על סמך מכלול הנתונים. בינה מלאכותית או רשתות עצביות יכולות גם לעזור להבין זאת. הם אוהבים את זה במגזר הבנקאי, ואירופה אינה יוצאת דופן בהקשר זה. אבל סין הלכה הכי רחוק ביצירת מערכת אשראי חברתית, שבה מונעים מאנשים עם דירוג נמוך כרטיסים לתחבורה בין עירונית, מגורים באזורים מסוימים, ועוד מספר הגבלות. למערכות AI כאלה יש "סיכוי גבוה להשפיע על פרנסתו של מישהו", מציין העיתון.
לגבי הדירוג החברתי בהצעת החוקאמר: "יש לאסור על מערכות AI המשמשות להערכת מדדים חברתיים למטרה כללית." ההצבעה על הצעת חוק זו צפויה ב -21 באפריל. עד לנקודה זו נציגי הנציבות האירופית מסרבים להגיב למסמך שלא אושר.
הפרויקט גם מספק:
- הודעות על אינטראקציה אנושית עם AI, אלא אם היא "ברורה מהנסיבות וההקשר של השימוש",
- הערכת מערכות בסיכון גבוה לפני כןהפעלה, כולל הבטחה שמערכות אלו מובנות למפקחים אנושיים ושהם מאומנים על מערכי נתונים "איכותיים" שנבדקו עבור הטיה,
- יצירת "מועצה אירופית לבינה מלאכותית", המורכבת מנציגי כל מדינות האיחוד האירופי.
מה חושבים מומחים על בקרת AI?
אולי החלק החשוב ביותר במסמךהוא מאמר האוסר על שימוש מסוים ב- AI, כולל מעקב המוני ודירוג אשראי חברתי. עם זאת, התגובות לפרויקט מצד קבוצות זכויות דיגיטליות ומומחי מדיניות טוענות שיש לשפר את החלק הזה.
"תיאורים של מערכות מלאכותיות אסורותהמודיעין מעורפל ומכיל שפה לא ברורה שיכולה ליצור פרצות רציניות", מסביר דניאל לאופר, מנתח מדיניות אירופאי ב-Access Now, בראיון ל-The Verge. סעיף זה, לדבריו, "רחוק מלהיות אידיאלי".
איך בדיוק מחליטה החקיקה הלאומיתהאם החלטת AI גרמה נזק למישהו או לא? מצד שני, האיסור על שימוש בבינה מלאכותית למעקב המוני הוא "קל מדי". הוא מוסיף כי גם האיסור על מערכות אשראי חברתי המבוססות על "אמינות" מוגדר מצומצם מדי. מערכות אשראי חברתי אינן צריכות להעריך אם מישהו אמין להחליט בסוגיות כמו זכאותו להטבות.
ב- טוויטר עומר טנא, סגן נשיאארגון ללא מטרות רווח IAPP (האגודה הבינלאומית לאנשי פרטיות), העיר כי פסק הדין "מייצג גישה בריסל טיפוסית לטכנולוגיות חדשות ולחדשנות. כשיש ספק, התאימו". לדברי טנא, אם ההצעות יאומצו, היא תיצור "אקו-סיסטם רגולטורי עצום" שימשוך לא רק יוצרי מערכות בינה מלאכותית, אלא גם יבואנים, מפיצים ומשתמשים, ותיצור מספר מועצות רגולטוריות, הן לאומיות והן; ברחבי האיחוד האירופי.
עם זאת, המערכת האקולוגית הזו לא תהיה הראשונהזה התור להגביל את "ביג טק", אומר מייקל ויל, מרצה לזכויות ותקנות דיגיטליות באוניברסיטת קולג' בלונדון. "ההתמקדות שלו היא בעיקר בספקי כלים עסקיים וקבלת החלטות פחות מוכרים, שעבודתם לרוב חומקת מבדיקת הרגולטורים או הלקוחות שלהם".
לא ידוע אילו שינויים בוצעובטיוטת ההצעה הזו בזמן שקובעי המדיניות של האיחוד האירופי מתכוננים להודעה רשמית ב-21 באפריל . עם זאת, ברגע שתוצע תקנה, היא תהיה כפופה לשינויים בעקבות משוב מחברי הפרלמנט ותצטרך להיות מיושמת בנפרד בכל מדינת לאום.
מדוע יש צורך בחוק חדש?
תוכנית להסדרת AI כבר נדונה כבר זמן מה.זְמַן. עוד בפברואר 2020, הנציבות האירופית פרסמה ספר לבן המתאר תוכניות להסדרת יישומי בינה מלאכותית "בסיכון גבוה". למרות שלא לגמרי ברור מהטיוטה החדשה איך בדיוק ייקבע "סיכון גבוה".
על פי טיוטת הטיוטה, המטרה העיקריתמטרת הנציבות כאן היא להגביר את אמון הציבור בבינה מלאכותית באמצעות בלמים ואיזונים המבוססים על ערכי האיחוד האירופי. המטרה היא לעורר את האימוץ של מה שנקרא "אמין" ו"במרכז האדם" AI. זה חל לא רק על יישומים "בסיכון גבוה", אלא על כל מי שמקיים אינטראקציה עם אדם.
מה יקרה אם החוק יעבור?
אם טיוטת ההצעה תתקבל, היא תתקבליביא לכך שהאיחוד האירופי ינקוט עמדה חזקה לגבי יישומי AI מסוימים. חלק מהשימושים יהיו כפופים לבקרות הדומות לתקנת הפרטיות הדיגיטלית של האיחוד האירופי תחת חקיקת ה-GDPR.
דרישות האיחוד האירופי כוללות הבטחהבטיחות ו הבטחת הדיוק העקבי של ה-AI —עם מצב הדיווח "כל תקריות חמורות או כל כשל בהפעלת מערכת ה-AI המהווה הפרת חובות לרשות הפיקוח לא יאוחר מ-15  ;ימים לאחר התוודעתי לכך.
ראוי לציין שהוועדה נמנעההצעות לאסור על שימוש בזיהוי פנים במקומות ציבוריים. על פי טיוטה שהודלפה בתחילת השנה שעברה, היא שקלה את הרעיון.
לא ידוע אילו שינויים היו עשוייםזו טיוטת הצעה כאשר פוליטיקאים של האיחוד האירופי מתכוננים להכרזה רשמית ב- 21 באפריל. עם זאת, לאחר הצעת התקנה, היא תהיה כפופה לשינויים לאחר קבלת משוב מחברי הפרלמנט האירופי ויש ליישמה בנפרד בכל מדינת לאום.
זו לא הפעם הראשונה שאירופה מדברת על רגולציהתעשיית הטכנולוגיה. לפיכך, רשויות האיחוד האירופי מבקשות לאלץ את גוגל ופייסבוק לשלם למו"לים עבור חדשות, ובתחילת השנה התקשרו פוליטיקאים אירופיים לראשי ענקיות הטכנולוגיה לדון בחוקים המגבילים את המונופול שלהם. על פי כל הדעות, החוקים המתוכננים יקבעו עונש הכנסות של 10% על ענקיות הטכנולוגיה להגביל את המונופול שלהן.
קרא עוד
המפה המדויקת הראשונה של העולם נוצרה. מה רע בכולם?
נאס"א סיפרה כיצד הם יעבירו דגימות של מאדים לכדור הארץ
מנוע למטוס מסלול נבדק ברוסיה
תקנת הגנת מידע כללית, כלליתקנת הגנת המידע הכללית (GDPR) היא תקנה של האיחוד האירופי שבאמצעותה הפרלמנט האירופי, מועצת האיחוד האירופי והנציבות האירופית מחזקים ומאחדים את ההגנה על נתונים אישיים של כל הפרטים באיחוד האירופי (האיחוד האירופי). הרגולציה נועדה גם לייצא נתונים מהאיחוד האירופי.
ה-GDPR נועד בעיקר להבטיח זאתלתת לאזרחים שליטה על הנתונים האישיים שלהם, ולפשט את המסגרת הרגולטורית ליחסים כלכליים בינלאומיים על ידי איחוד רגולציה בתוך האיחוד האירופי.
מערכת האשראי החברתי ("החברתיתדירוג "," מערכת של אמון חברתי ") - מערכת להערכת אזרחים או ארגונים פרטניים לפי פרמטרים שונים, שערכיהם מתקבלים באמצעות כלי תצפית המונית ובאמצעות טכנולוגיית ניתוח נתונים גדולים. היא יושמה לראשונה על ידי ממשלת סין בשנות העשרים.