החוק האלקטרוני ברוסיה: מדוע רובוטים זקוקים לזכויות ומי יהיה אחראי לפשעיהם

תארו לעצמכם עולם שבו אנשים מתקיימים יחד עם מערכות שבדיוק כמונו יש להן אינטליגנציה, מחשבות,

רגשות ומודעות עצמית. יש להם רצונות וכוונות, צער ושמחות. יש לא רק גופים אורגניים – אלו רובוטים שניתן להפעיל ולכבות.

עולם חדש אמיץ מעלה שאלות אתיותחידות. איך להתנהג עם רובוטים? האם יש לנו חובה מוסרית כלפי אלה שיצרנו? אולי צריך לעצור לגמרי את ההתקדמות לפני שהבינה המלאכותית תעלה על האינטליגנציה האנושית? לעת עתה, שאלות כאלה נותרו רק ספקולציות בנושא, כי לאנושות אין עדיין דוגמאות אמיתיות לרובוטים אינטליגנטים.

Blade Runner 2049 מספר על העתיד הקרוב, בו סוגיית העמדות כלפי אנדרואידים כבר נפתרה. אבל לא כולם מסכימים עם זה

מה שאנשים אחרים חווים נשארחידה לא מוכחת עבור המתבונן: איש אינו יכול להיות בטוח כי בן שיחו באמת חושב בדיוק כפי שהמדיטטור עצמו חושב. ובכל זאת, נהוג להאמין ברציונליות של אנשים אחרים ללא תנאי. הרבה יותר קשה להניח שלרובוטים יש אינטליגנציה רגשית עמוקה.

איך להאמין שזה אנושי?

כדי להבין אם ניתן לטעות ב-AI מסויםאדם, עליו להיבדק באמצעות מבחן טיורינג. הוא נוצר על ידי חלוץ המחשבים אלן טיורינג בשנת 1950. השאלה לא הייתה על החלפת אדם בפועל במחשב: המדען התעניין בשאלה האם למכונה יכולה להיות אינטליגנציה גלויה.

במהדורה של טיורינג המבחן נראה כמו דיאלוגבין בני שיח, ומטרתו היא רק לענות על שאלה יחידה: "האם בן שיחך הוא בן אנוש?" מומחה אחד מתקשר עם המחשב. בתחרויות מודרניות יש צוות שלם של שופטים בצד השני של המסך. הם קובעים אם הם מדברים עם אדם חי אך ורק על ידי תשובותיו לשאלות שנשאלו. בנוסף, השופטים מתקשרים עם אנשים אמיתיים במקביל. מסתבר סוג של משחק אצבעונים, בו השחקן צריך לנחש היכן האדם האמיתי "מסתתר".

עד לאחרונה, צ'אט בוטים לא הצליחו לעשות זאתלהונות את השופטים. זה השתנה כאשר התוכנית הרוסית, "ילד" יוג'ין, עברה סוף סוף את המבחן. זה קרה עשור מאוחר יותר מכפי שציפו טיורינג - במקום 50 שנה, מחשבים ארכו 64 שנים. אני חייב לומר שלא מכונית אחת לא תוכל לעבור את המבחן מאה אחוז. יתר על כן, דרוש אפילו פחות מ- 50% מקולות השופטים כדי לזכות - רק 30%. יוג'ין נראה כאיש של 33% מהמומחים. השיחה שלו עם אנשים הייתה קצרה, חמש דקות בלבד עבור כל אדם. החוקים, כפי שאתה יכול לראות, רחוקים מלהיות מחמירים.

סגנון תקשורת של יוג'ין גוסטמןרחוק מלהיות אנושי. צ'ט בוט מתיימר להיות ילד בן 13 מאודסה, שבצורה כזו או אחרת הוא מסוגל לענות על שאלות על אישיותו, תחביביו וידעיו. הוא לא חכם ככל שיכול להיות - "קריאה" מוגזמת של ה- AI רק מעוררת ספקות אצל המומחים. הוא גם שואל את עצמו כל הזמן שאלות, עוזר לפתח את הדיאלוג.

קריטריון לא קפדני מדי לכניסה לכבודמעמד העם לא התאים למדען יו לבנר, שהציע "מבחן זהב" למבחן טיורינג ב -1990. הכללים החדשים מחייבים כי אדם ומחשב ישוחו לפחות 25 דקות, ואילו הצ'טבוט חייב לנהל שיחה ארוכה עם כל אחד מארבעת השופטים. המכונה מנצחת רק אם היא יכולה להונות לפחות מחצית מהמומחים. יוג'ין לא יכול היה לעבור את המבחן הזה.

ישנן גרסאות בדיקה אחרות ומורכבות יותר.טיורינג. לדוגמה, AI יכול לתקשר עם שלושה שופטים במשך שעתיים כל אחד. עליו לשכנע שניים מתוך שלושה מומחים. העתידני ריי קורצוויל ומייסד חברת התוכנה לוטוס מיץ 'קפור אפילו ביצעו הימור של 20 אלף דולר: קורצוויל הימר שלפחות רובוט אחד יוכל לעבור מבחן טיורינג כה קשה עד 2029. התעריף עדיין בתוקף.

האם רובוט יכול להיות נושא ליחסים משפטיים?

צ'אט בוטים דמוי אדם אינם אנושיים עדיין. מפתחי תוכניות כאלה מאמינים כי "הם כותבים לא כל כך הרבה אלגוריתמים כמו רומנים." חיקוי התנהגותי אינו מגלה פעילות נפשית אמיתית, יצירתיות, אסוציאציות וכל מה שטמון במוח האדם ובסיבה. בנושא זכויות הרובוטים איננו מדברים עדיין על ערבות הדדית בין הנושא למדינה, כמו גם משתתפים אחרים ביחסים משפטיים. החוק המסדיר את היחס למערכות רובוטיות אינו יכול להיות אנושי לחלוטין, ולכן הצורך בחוקים חדשים לחלוטין מופיע בפני עורכי דין.

מערכות משפט ברחבי העולם בנויות עלההנחה שרק אנשים יכולים לקבל זכויות. כאן יש צורך בבירור. פילוסופים של תקופה מודרנית פיתחו מערכת של זכויות טבעיות וחיוביות - בלתי ניתנות לצריבה מהטבע ונוצרות באמצעות חוזה חברתי. רק יצור אחד בכוכב הלכת מעניק זכויות - אנשים. אבל אלה שאפשר עדיין לקבל ניחוח הם הרבה יותר.

הדיון בזכויות הרובוט של היוםמסוכמים בספרו של פרופסור דייוויד גנקל, צפון אילינוי. זה נקרא כך: זכויות רובוטים (מאנגלית "זכויות רובוטים" - "היי-טק"). מעמד המכונות האוטונומיות, הוא אומר, משתנה ללא הרף, מכיוון שנראה כי רובוטים הם "שטח אפור" בין פרטים לאובייקטים. למעשה, אנחנו כבר חיים בעולם שמוצף בגופים מלאכותיים עם הזכויות והאחריות של "אדם": זה IBM, ואמזון, ומקדונלד'ס. הם בהחלט לא הופכים לאנושיים, אך הם מתקשרים בצורה כלשהי עם המין האנושי.

סרטים כמו שליחות קטלנית ו 2001:אודיסיאה בחלל "משכנעים את הצופים שרובוטים יכולים לפגוע באנשים. כמובן, האנושות מסוגלת להחזיר למכונות, אם כי אין כמעט סיפורים כשאנשים הופכים לתוקפנים נגד רובוטים. עם זאת, האגודה האמריקאית למניעת אכזריות רובוטים (ASPCR) לקחה את הרעיון ההפוך כבסיס. הארגון הוקם בשנת 1999 אך עדיין מקדים את זמנו. המארגנים לא חושבים שהם עושים משהו מוזר: "חוסר היכולת להכיר בזכויות של AI שאינו אנושי ולהעניק להם את זה מקביל לחוסר היכולת של תרבויות מערביות קולוניאליות להכיר באנושיות ובזכויות של עמים שאינם אירופאים." באתר ישנה גם הערה כי בשנות ה -90 של המאה העשרים, כאשר נוסדה החברה הראשונה לרווחת בעלי חיים, נלעגה גם המשימה שלה.

ASPCR חדל להתקיים בשנת 2016, אך זההבסיס, לא משנה כמה הוא שובב, לא נעלם. הפרלמנט האירופי סבור שרעיון זכויות הרובוט ראוי להתייחסות רצינית. דו"ח משנת 2016 של מאדי דלבו מלוקסמבורג מפתח את השאלה ליצור מעמד משפטי חדש לזהות אלקטרונית לציון AI ורובוטים. להיות אדם אלקטרוני פירושו להיות בעל אחריות וזכויות.

דמיין שרובוט הונה אדם וגנבאת הכסף שלו בעסקה. הדו"ח מציע תשובה לשאלה מי צריך להיות אחראי במקרה כזה. הפיתרון המוצע הוא לתת לרובוטים אחריות חוקית. יחד עם זאת, היוצרים או הבעלים של רובוטים חייבים לשלם דמי ביטוח לקרנות ממשלתיות כדי שאנשים אלקטרוניים יוכלו לכסות עלויות.

התוכנית מבוססת על שלושת חוקי הרובוטיקה,שהוצג על ידי סופר המדע הבדיוני יצחק אסימוב. ראשית, רובוט לא יכול לפגוע באדם. שנית, על הרובוט לציית לפקודותיו של האדם, אם הדבר אינו מוביל לפגיעה באנשים אחרים. שלישית, על הרובוט להגן על קיומו שלו כל עוד הוא אינו פוגע באדם. לבסוף הוסיף אזימוב "אפס", החוק הרביעי: רובוט לא יכול לפגוע באנושות או להיות לא פעיל באופן שהאנושות תיפגע כתוצאה מכך.

עכשיו הצורך בפיתוח זכויות רובוטיםנראה מופרך, אך חברי הפרלמנט האירופי כותבים שהאוטונומיה האפשרית העתידית מעלה שאלות משפטיות כעת. "בסופו של דבר, קיימת אפשרות שבתוך כמה עשורים, AI תוכל לעלות על האינטליגנציה האנושית, ואם המערכת לא תהיה מוכנה, לסכן את היכולת האנושית לשלוט ביצירה שלה - ולכן היכולת להיות אחראית על שלה ייעודו והישרדותם של המינים, "- נכתב בדו"ח. לכן, אפילו צעדים מוקדמים מספקים שדה למחשבה.

בשנת 2017 הופיע דו"ח נוסף של האיחוד האירופיאשר בין השאר הועצה על ידי הוועדה האזרחית לרובוטיקה. זה משלים את אותו מושג של אנשים אלקטרוניים שיכולים להיות אחראים לנזק. ההנחה היא שרובוטים במעמד המקביל יכולים לקבל החלטות עצמאיות או לתקשר עם צדדים שלישיים, למעט היוצרים שלהם, באופן עצמאי.

יצירת נושא חדש של יחסים משפטיים,חריג יותר, יכול להיות פרצה עבור יצרנים המעוניינים להתחמק מאחריות לנזק מרובוטים. אך רובוטים אכן לוקחים על עצמם יותר ויותר משימות יומיומיות, חלקן מסוכנות לאחרים. וזה לא קשור למשימות מיוחדות. לדוגמא, מזל"ט עשוי לשאת קופסה ולהפיל אותה בטעות על ראשו של אדם. בחוק האנושי, יש גם אחריות לחוסר מעש: האם AI יכול להיות אחראי לכך?

מה קורה עם חוק אלקטרוני ברוסיה?

הכלכלה הרוסית משתרכת מאחור ברובוטיזציה, אבלמצד שני, החוק הרוסי נוקט באמצעים מראש. אז, בסוף 2016, דמיטרי גרישין, יזם רוסי ומייסד גרישין רובוטיקה, יצר את הרעיון של החוק הנפרד הראשון המלא על רובוטיקה. הוא כתב יחד עם עורך הדין בתחום ה- IT, ויקטור נאומוב.

רובוט הוא מכשיר המסוגל לפעול, לקבוע את פעולותיו ולהעריך את השלכותיהם על סמך מידע המגיע מהסביבה החיצונית, ללא שליטה מלאה מאדם.

סעיף 3 לחוק דמיטרי גרישין         

התפיסה של גרישין מציעה להשוות את הרובוטבאופן מיידי לבעלי חיים וגופים משפטיים. למרות שאין למכונות אוטונומיות רגשות, הן יכולות לפעול באופן עצמאי, מה שאומר שהן נופלות בתחום המושג "אחריות". עם זאת, החוק אינו מייחס לרובוטים אחריות אנושית אמיתית, אך הוא אומר כי מבחינתם יש צורך ליצור מרשם נפרד, בדומה למרשם הישויות המשפטיות. לרובוטים יכולים להיות יצרנים ובעלים. אם הרובוט בתחילה עלול להיות מסוכן, האחריות לפעולותיו מוטלת על "הבעלים", ואם שואב אבק של רובוט גורם לפגיעה באדם, היצרן יצטרך לשלם.

בנוסף, רובוטים יכולים להפוך לנושאים של משפט פלילי, אך רק בארבעה מקרים:

• הרובוט נוצר בכדי לבצע פעולות בלתי חוקיות.
• הרובוט תוכנן מחדש כדי לפגוע באדם על ידי כיבוי הבלוק שלו, האחראי על הבטיחות בעת תקשורת עם אדם.
• הרובוט נוצר במקור ללא חסום זה.
• הרובוט נבנה מבלי להבין שניתן להשתמש בו כדי לפגוע בבני אדם.

הרעיון של דמיטרי גרישין מבוסס על ארבעהחוקי הרובוטיקה מאת יצחק אסימוב, שלטענת היזם עדיין לא איבדו את הרלוונטיות שלהם. גם בראיון מחבר החוק נותן דוגמאות לרובוטים שהטקסט יהיה חשוב מלכתחילה: כלי רכב בלתי מאוישים ומזל"טים.

בנוסף לגרישין, החוק הרובוטי ברוסיה מתפתחהפרויקט "# PravoRobotov". הפרויקט נוצר גם בסוף 2016, ומטרתו לשפר את החוקים בתחום AI, הפצת נתונים ואבטחת סייבר. הצוות מתמודד עם מגוון רחב של אתגרים שהכלכלה הדיגיטלית תצטרך להתמודד עם הקמתה.

לא כל היזמים הרוסים במצב רוחאוֹפּטִימִי. מנכ"ל אלפא רובוטי ונצ'ר ולדימיר בלי מאמין כי אין טעם ליצור חוקים נפרדים למכונה. למעשה, הם היו ונשארו מכשירים, ומי ששולט בו אחראי תמיד לפעולת הכלי.

עם זאת, הרשויות הרשמיות מקיימות את הקורסלפתח הצעת חוק מלאה על רובוטיקה. יו"ר דומא של המדינה, ויאצ'סלב וולודין, אמר כי טקסט דומה יופיע בסביבות 2022. הרשויות הרוסיות לא אמרו שום דבר קונקרטי יותר על רובוטיקה, וקשה במיוחד לחזות משהו ב -2020.

ראה גם:

השביט NEOWISE נראה ברוסיה. איפה לראות אותה, איפה להסתכל ואיך לצלם

התברר שגרם לתרבות המאיה לעזוב את עריהם

ביום המחלה השלישי, רוב החולים ב- COVID-19 מאבדים את חוש הריח שלהם ולעיתים קרובות סובלים מנזלת