ايليا فيكسنين ، ITMO - حول الفولغا والسلامة الوظيفية والحل الديمقراطي لمشكلة عربة

يمكن كذب طائرة بدون طيار؟

- موضوع محاضرتك - "لماذا نصنع الروبوتات؟" تكمن في بلدها الكلاسيكية

فهم - توفير متعمد للمعلومات غير صحيحة ، وامتلاك واحدة صحيحة. كيف نفهم هذا في سياق الروبوتات؟

- في حالتنا ، الكذبة هي عندما معلومات حولكيف يتم تنظيم العالم الحقيقي لا يتوافق مع ما نقرأ وننقل في الخارج. لأي سبب؟ لقد كسرنا المستشعر ونرى ذلك حقًا ، أو زيفنا باسم التزوير ، أو لسبب آخر. عندما نتواصل ، أستطيع أن أكذب. لأنني مخطئ في استنتاجاتي أو أراها سيئة. لا يهمك ، لأن هذه المعلومات ستكون خاطئة في أي حال. لذلك ، نظرنا في أساليب الإدارة التي تتيح جعل النظام آمنًا.

- عندما تتحدث عن الروبوتات و "الأنظمة متعددة الوكلاء" ، هل تعني المركبات غير المأهولة؟

- لا ، هذه هي الوجهة الأكثر شعبية. الآن المواضيع الأكثر شعبية هي المركبات الجوية بدون طيار.

- هل اختبار الحلول للمشاكل التي قد تنشأ؟

- لدينا مستويين. في المستوى الأول ، ننظر إلى المعلومات التي تنتقل داخل الطائرة بدون طيار ، لأن المعلومات من المستشعرات لا تزال تتم معالجتها قبل أن تصل إلى جهاز الحوسبة. في المستوى الثاني ، يتم تبادل المعلومات بين الطائرات بدون طيار ، ونختبرها أيضًا. نحن ننظر إلى كيفية ارتباطه بالعالم الحقيقي.

- الطائرات بدون طيار مختلفة الآن - العسكرية والمدنية وغيرها. هل تقوم طائرات بدون طيار بتبادل المعلومات مع بعضها البعض بهذه الطريقة - هل هذه فئة محددة؟

- لا ، في الواقع ، يمكن للجميع مشاركة. أنا بصراحة لا أعرف أيًا من أجهزة UAV التي لا تتبادل المعلومات. حتى عند التحكم من جهاز التحكم عن بعد ، لا يزال بإمكانك الحصول عليه. لهذا السبب نعمل على مستوى عالٍ من التجريد باستخدام تطبيقات خاصة ، لكن على العموم هذه حلول عامة إلى حد ما - عامة ، كما يقولون.

- على مدى العام الماضي ، رأينا حالات فيها طائرات بدون طيارخلق مشاكل للناس. الطائرات بدون طيار التي يمكن أن تصطدم بالطائرات ، الطائرات بدون طيار التي سدت الممرات. هل من الممكن منع مثل هذه الحالات بطريقة أو بأخرى؟

- إذا كان يسيطر عليها الرجل ، ثم فقطالطريق - فقط طرقها. وهذا هو ، للسيطرة ، وجعله يفعل ما نريد ، أو مجرد تدمير جسديا. إذا تم شراء الطائرة بدون طيار ، والتي تم تجميعها بالفعل من قبل شخص ما ، وتمكنا من إدارتها حسب الطلب ، فيمكنك مواجهة هذه الخوارزميات القياسية. ولكن الآن لتجميع طائرة بدون طيار هي مهمة لدورات الجامعة الابتدائية أو المدارس الثانوية. الكثير من الأدلة ، يمكن شراء قطع الغيار دون مشاكل ، فهي ليست باهظة الثمن. لذلك ، فإن المنطق الذي سيكون داخل هذه الطائرات بدون طيار لا يمكن توحيده بالكامل.

- قلت عن اعتراض السيطرة. إلى أقصى حد ممكن ، ما هو المطلوب لهذا؟

- إذا نظرنا في بعض شراؤهاالنظام ، ونحن نعرف البروتوكولات التي يتصل بها. من الناحية النظرية ، يمكننا استبدال لوحة التحكم. لكن هذه مهمة غير تافهة. من وجهة نظر الهندسة والعلوم ، يمكن القيام بذلك. في الممارسة العملية ، هذه مهمة هندسية صعبة للغاية. لكن قابلة للحل.

- الآن لا أحد يعرف كيفية القيام بذلك؟

- بقدر ما أعرف ، لا أحد. في أي حال ، هذه المعلومات ليست متاحة للجمهور.

- ما هي المشاكل الأخرى التي ترى أنها قد تنشأ في المستقبل القريب ، إذا كنا نتحدث عن طائرات بدون طيار؟

- بالنسبة لي كشخص آمن ، فإن المشكلة الرئيسية هيأن النظام لن يعمل بالطريقة التي يريدها الشخص. هذا ليس لي "Matrix" ، ولكن لحقيقة أن منطق وسلوك النظام يمكن أن ينتهكا في مكان ما. نريد أن نرى نتيجة واحدة ، لكن ستكون هناك نتيجة أخرى. بمعنى تقريبي ، نريد بناء استاد من هذه الطائرات بدون طيار. المشكلة الرئيسية هي أنه سيتم وضع الطوب في الأساس بطريقة خاطئة. أي أننا نقوم ببناء الملعب على مستوى العالم ، لكن هذه الانحرافات الصغيرة داخل الهيكل ستؤدي إلى انهيار الهيكل بأكمله.

- إذا قمنا ببرمجة جميع البرامج لهذه الطائرات بدون طيار ، فما السبب الذي يجعلهم يخطئون هذه الطوب؟

- انظر ، عالم الكمبيوتر يتكون من الأصفار وواحد ، كل شيء واضح. وضعنا هذا المنطق ، وحصلت على الجواب. يتكون العالم المادي من مجموعة من القيم من صفر إلى واحد. ما نضعه على المستوى الحسابي قد لا يتوافق في العالم الحقيقي. وهج الشمس ، وعاصفة من الرياح ، - وقد ارتفع الطوب بالفعل. هذه هي مهمة القسم الجديد للعلوم - السلامة الوظيفية ، والمستمدة من المعلومات ، عندما نحاول التكيف مع تصرفات البيئة وتطوير حل يتيح لنا تجميع الطوب دون النظر إلى العوامل الخارجية. وهي مهمة صعبة. لديها حلول ، لكن أيا منها يضمن النجاح بشكل كامل.

- في الوصول الجماعي بدون طيار ظهرت منذ وقت ليس ببعيد. هل تعتقد أن الوضع سيستمر كما هو ، حتى أستطيع الذهاب وشراء طائرة بدون طيار؟ تعتبر الآن لعبة ، هل هذا التغيير؟

- أنا لست محاميا ، ولكن بطريقة ودية ، ينبغي أن يكونقدم بعض القيود. من سلسلة "شراء طائرة بدون طيار كبيرة دون أي وثائق ، والتراخيص وأشياء أخرى أمر خاطئ". شراء لعبة الطائرة بدون طيار؟ لماذا لا ، فمن غير المرجح أن يسبب الكثير من الضرر. هنا مرة أخرى ، القصة هي أنه إذا كنت ترغب في ذلك ، يمكن أن يختتم كل شيء في ضوء سلبي. لذلك ، أنا شخص مرتبط بالعلم ، أرغب في أن يكون هذا متاحًا للجميع. لكن الشخص الذي يسير في الشوارع يرغب في فرض بعض القيود المعقولة. انه معقول.

سرب المخابرات - في الروبوتات والبشر

- لقد شاركت في التنبؤ بسلوك الناس.في حالات الطوارئ ومحاكاة ذلك على أساس المأساة في "الحصان العرجاء". من الواضح كيف يمكنك إنشاء نموذج شريط رقمي. ولكن كيف يمكنك التنبؤ سلوك الناس؟ بناء على ما البيانات؟

- لا ، في الحقيقة. يتصرف الإنسان عمومًا بشكل تلقائي ، خاصة في حالات الطوارئ. لكن لدينا فرضية ، قمنا باختبارها عن طريق وضع نماذج للحالة التي حدثت.

- كيف محاكاة سلوك الناس؟ نتائجك كانت قريبة جدًا من الواقع.

- إذا تحدثنا عن المنطق الموجود هناكبيدق ، وهذا هو ما يسمى المخابرات سرب. متوسط ​​الحركة ، واختيار القادة الشرطيين ، والحركة للخروج ، وهلم جرا. تماما مبدأ تافهة. بشكل عام ، مبدأ أي معلومات استخبارية - لدينا جسيم يمكن أن يتصرف بسذاجة شديدة ، ولديه مبادئ بسيطة وبسيطة. ولكن في النهاية ، يتم الحصول على التأثير عندما يتصرف النظام بأكمله بذكاء شديد.

- أنت تتحدث الآن بعبارات أكثر قابلية للتطبيق على التكنولوجيا. إذا كنا نتحدث عن الناس ، هل هو نفسه؟

- الروبوت مبني على مبادئ الإنسان. إذا قمت بأخذ نظام من شخص وتطبيقه على إنسان آلي ، فيمكنني على الأقل تطبيق النظام من إنسان آلي إلى شخص ما. في مجال تكنولوجيا المعلومات ، تتم صياغة هذه القواعد لفترة طويلة جدًا. على الأقل منذ عام 1986.

- في الواقع ، لقد أثبتت أنه يعمل في الأماكن العامة؟

- نعم ، حاولنا ، وهو يعمل. لست أخصائي اجتماعي ولا أخصائي نفسي ، لكن يبدو لي أن النتيجة من وجهة نظر إجراء تجربة علمية قد تحققت: فالشخص في حالات الطوارئ ينحدر إلى مستوى السلوك غير العادي. ويمكن نسخ هذا المستوى عاديا من سلوك الطيور ، مشروط. من حيث المبدأ ، اتضح.

"من الأفضل أن أقتلني أكثر من طفل": أخلاقيات الطائرات بدون طيار

- تحدثت عن القضايا الأخلاقيةالطائرات بدون طيار ومعضلة الاختيار إذا كان لديهم لقتل شخص ما. مشكلة عربة بالكاد ممكن في الحياة الحقيقية. لكن بشكل عام ، هل تعتقد أنك بحاجة إلى برمجة مثل هذه الأشياء؟ وهل يمكن أن تحدث في الحياة الحقيقية؟

- سوف تنشأ بالتأكيد في الحياة الحقيقية ، وإذا لم نبرمجها ، ماذا سيحدث بعد ذلك؟ انظر ، لقد طورنا خوارزمية ، والجهاز يعمل ، كل شيء على ما يرام ، ومن ثم يحدث أن الجدة والطفل قد هربا من نهايات مختلفة من الطريق. إذا لم نضع منطق السلوك في هذه الحالة ، فسوف نتنصل ، كما كان ، من المسؤولية الأخلاقية عنه. هذه خطوة نحو الجبن ، على ما أعتقد.

incut

"إذا لم نضع نموذجًا معينًا من السلوك في نظام غير مأهول في مثل هذا الموقف ، فما الذي سيفعله؟"

- يعتمد على النظام. ربما ستحاول تقليل مخاطرها ، وبشرط ، إسقاط الشخص الأقرب.

- أنت تقول أن علينا برمجة كل شيء. من عليه إذن أن يقرر من سيسقط؟

- يبدو لي أن ماساتشوستس (معهد ماساتشوستس للتكنولوجيا - "التكنولوجيا الفائقة") سارت في الاتجاه الصحيح - الديمقراطية.

علماء من تكنولوجيا ماساتشوستسصنع Institute (MIT) لعبة يدعى فيها المستخدم للاختيار من بين نوعين مختلفين من سلوك مركبة غير مأهولة في حالة المعضلات الأخلاقية. وكانت النتيجة دراسة عالمية شارك فيها ملايين الأشخاص في مئات البلدان. اتضح أن الأشخاص في مختلف البلدان لديهم أفكار مختلفة حول كيفية تعامل الطائرات بدون طيار مع القضايا الأخلاقية.

- إذن علينا التصويت ، من الذي يجب أن يسقط طائرة بدون طيار؟

- ليس حقا. يجب إجراء مسح اجتماعي يسمح لنا بالاختيار. البشرية كلها ستكون مسؤولة عن ذلك ، وليس مجرد مبرمج واحد.

- هل تعتقد أن هذا سوف ينجح ، سيقبله الناس؟

- وسوف لا يزال يسبب عدم الرضا ، لأنهتم اختيار عدد كبير من الأشخاص ، وكان هناك شخص ما يختلف معه بشكل طبيعي. لكن إذا لم يكن هذا الخيار على الإطلاق ، وبدلاً من أن يكون قرارًا استبداديًا ، فهذا غير صادق تمامًا.

إشعار فيسبوك للاتحاد الأوروبي! تحتاج إلى تسجيل الدخول لعرض ونشر تعليقات الفيسبوك!