התפשטות הבינה המלאכותית מעלה מספר חששות לגבי פרטיות שאנשים אולי אפילו לא מודעים להם. מִצַד שֵׁנִי
סיכוני הסודיות מ- AI אינם מוגבלים לבשל האיסוף המסיבי של נתונים אישיים, אך גם ממודלי הרשת העצבית העמוקה עצמם, המניעים את רוב הבינה המלאכותית של ימינו. הנתונים פגיעים לא רק להתקפות מסדי נתונים, אלא גם ל"דלפות "במודלים עליהם הוכשרו.
רשתות עצביות עמוקות, שהןמערך האלגוריתמים לזיהוי דפוסים בנתונים מורכב משכבות רבות. שכבות אלה מכילות מספר רב של צמתים הנקראים נוירונים, ונוירונים משכבות שכנות קשורים ביניהם. כל צומת, כמו גם הקישורים ביניהם, מקודדים פיסות מידע מסוימות. פיסות מידע אלה נוצרות כאשר תהליך מיוחד סורק כמויות גדולות של נתונים בכדי להכשיר את המודל.
לדוגמה, אלגוריתם לזיהוי פנים יכול להיותהתאמן על סדרת תמונות סלפי כדי שיוכל לחזות בצורה מדויקת יותר את מינו של האדם. מודלים כאלה הם מדויקים מאוד, אך הם יכולים גם לאחסן יותר מדי מידע - למעשה, לזכור אנשים מסוימים במהלך תהליך הלמידה. תוקפים יכולים לזהות אנשים מנתוני אימון על ידי בחינת רשתות עצביות עמוקות המסווגות מגדר על פנים מתוארות.
אחת משיטות ההגנה שעלומומחים ללמידת מכונה, זה הוסיף אי ודאות למודל ה- AI. זה נעשה כדי למנוע מהתוקפים לחזות בדיוק מה יעשה המודל. האם זה יסרוק רצף נתונים ספציפי? או שהוא ישגר ארגז חול? באופן אידיאלי, תוכנות זדוניות לא יידעו ולא יחשפו את מניעיה באופן לא מודע.
דרך נוספת לשפר את פרטיות AI היאלחקור את הפגיעויות של רשתות עצביות עמוקות. אף אלגוריתם אינו מושלם, והמודלים הללו פגיעים. הסיבה היא שהם מאוד רגישים לשינויים קטנים בנתונים שהם קוראים.
ניתן להשתמש בפרצות אלושיפור הפרטיות על ידי הוספת "רעש" לנתונים אישיים. לדוגמה, חוקרים במכון פלאנק לאינפורמטיקה בגרמניה פיתחו דרכים להמיר תמונות פליקר לתוכנת זיהוי פנים. השינויים עדינים להפליא, עד כדי כך שלא ניתן לזהות אותם על ידי העין האנושית.
דרך נוספת ש- AI יכול לעזור בהפחתהבעיות אבטחת מידע - שמור על סודיות נתונים בעת בניית מודלים. התפתחות מבטיחה אחת נקראת למידה מאוחדת. זה מה שגוגל משתמשת במקלדת החכמה של Gboard כדי לחזות איזו מילה להיכנס בהמשך. למידה מאוחדת בונה רשת עצבית עמוקה אולטימטיבית מנתונים המאוחסנים על פני מכשירים רבים ושונים, ולא על מאגר נתונים מרכזי אחד. היתרון העיקרי שלה הוא שנתוני המקור לעולם לא עוזבים מכשירים מקומיים. לפיכך, הפרטיות עדיין מוגנת במידה מסוימת. כן, זה לא פיתרון מושלם. למרות שהמכשירים המקומיים עושים כמה חישובים, הם לא משלימים אותם. תוצאות ביניים עשויות לחשוף מידע כלשהו על המכשיר ועל המשתמש בו.
למידה מאוחדת מספקת תובנות לגביעתיד שבו AI מכבדת יותר את הפרטיות. מחקר מתמשך עשוי למצוא דרכים נוספות שבהן AI הופך לחלק מהפתרון במקום למקור לדאגות הפרטיות.
קרא גם
ראה תחילה אילו איברים נגיף הקורונום תוקף ואיך זה קורה
מי היה האורגניזם הראשון בכדור הארץ? תשכח מכל מה שידעת על מקור החיים
ראו תמונות של ליקוי החמה מרחבי העולם