يمكن كذب طائرة بدون طيار؟
- موضوع محاضرتك هو "لماذا نجعل الروبوتات تكذب؟"يكمن في الكلاسيكية
"في حالتنا ، الكذبة هي عندما لا تتطابق المعلومات حول كيفية عمل العالم الحقيقي مع الخارج.لدينا جهاز استشعار مكسور ونراه حقا بهذه الطريقة ، أو نقوم بتزويره باسم التزوير ، أو لسبب آخر.عندما نتواصل أنا وأنت ، يمكنني أن أكذب لأنني مخطئ في استنتاجاتي أو لا أستطيع الرؤية جيدا.لا يهمك ، ستكون هذه المعلومات خاطئة بالنسبة لك على أي حال.لهذا السبب نظرنا في طرق الإدارة التي تجعل النظام آمنا.
- عندما تتحدث عن الروبوتات و "الأنظمة متعددة الوكلاء" ، هل تعني المركبات غير المأهولة؟
- لا ، هذه هي الوجهة الأكثر شعبية. الآن المواضيع الأكثر شعبية هي المركبات الجوية بدون طيار.
- هل اختبار الحلول للمشاكل التي قد تنشأ؟
- لدينا مستويين. في المستوى الأول ، ننظر إلى المعلومات التي تنتقل داخل الطائرة بدون طيار ، لأن المعلومات من المستشعرات لا تزال تتم معالجتها قبل أن تصل إلى جهاز الحوسبة. في المستوى الثاني ، يتم تبادل المعلومات بين الطائرات بدون طيار ، ونختبرها أيضًا. نحن ننظر إلى كيفية ارتباطه بالعالم الحقيقي.
- الطائرات بدون طيار مختلفة الآن - العسكرية والمدنية وغيرها. هل تقوم طائرات بدون طيار بتبادل المعلومات مع بعضها البعض بهذه الطريقة - هل هذه فئة محددة؟
لأكون صادقا ، لا أعرف جهازا واحدا للطائرة بدون طيار لا يشارك المعلومات.حتى عندما تتحكم باستخدام جهاز تحكم عن بعد ، لا يزال من الممكن الحصول عليه.لهذا السبب نعمل على مستوى عال إلى حد ما من التجريد باستخدام التطبيقات الخاصة ، ولكن بشكل عام ، هذه حلول عامة تماما - عامة ، إذا جاز التعبير.
- على مدى العام الماضي ، رأينا حالات فيها طائرات بدون طيارخلق مشاكل للناس. الطائرات بدون طيار التي يمكن أن تصطدم بالطائرات ، الطائرات بدون طيار التي سدت الممرات. هل من الممكن منع مثل هذه الحالات بطريقة أو بأخرى؟
- إذا كان يسيطر عليها الرجل ، ثم فقطالطريق - فقط طرقها. وهذا هو ، للسيطرة ، وجعله يفعل ما نريد ، أو مجرد تدمير جسديا. إذا تم شراء الطائرة بدون طيار ، والتي تم تجميعها بالفعل من قبل شخص ما ، وتمكنا من إدارتها حسب الطلب ، فيمكنك مواجهة هذه الخوارزميات القياسية. ولكن الآن لتجميع طائرة بدون طيار هي مهمة لدورات الجامعة الابتدائية أو المدارس الثانوية. الكثير من الأدلة ، يمكن شراء قطع الغيار دون مشاكل ، فهي ليست باهظة الثمن. لذلك ، فإن المنطق الذي سيكون داخل هذه الطائرات بدون طيار لا يمكن توحيده بالكامل.
- قلت عن اعتراض السيطرة. إلى أقصى حد ممكن ، ما هو المطلوب لهذا؟
- إذا نظرنا في بعض شراؤهاالنظام ، ونحن نعرف البروتوكولات التي يتصل بها. من الناحية النظرية ، يمكننا استبدال لوحة التحكم. لكن هذه مهمة غير تافهة. من وجهة نظر الهندسة والعلوم ، يمكن القيام بذلك. في الممارسة العملية ، هذه مهمة هندسية صعبة للغاية. لكن قابلة للحل.
- الآن لا أحد يعرف كيفية القيام بذلك؟
- بقدر ما أعرف ، لا أحد. في أي حال ، هذه المعلومات ليست متاحة للجمهور.
- ما هي المشاكل الأخرى التي ترى أنها قد تنشأ في المستقبل القريب ، إذا كنا نتحدث عن طائرات بدون طيار؟
"بالنسبة لي ، بصفتي متخصصا أمنيا ، فإن المشكلة الرئيسية هي أن النظام سوفأنا لا أشير إلى المصفوفة ، ولكن إلى ما يمكن أن يفعله شخص آخر.نريد أن نرى نتيجة واحدة، ولكن ستكون هناك نتيجة واحدة.بشكل تقريبي ، نريد بناء ملعب من هذه الطائرات بدون طيار.المشكلة الرئيسية هي أنه سيكون هناك لبنة في الأساسأي أننا سنبني ملعبا على الصعيد العالمي ، لكن هذه الانحرافات الصغيرة داخل الهيكل ستؤدي إلىإلى حقيقة أن الهيكل كله سوف ينهار.
- إذا قمنا ببرمجة جميع البرامج لهذه الطائرات بدون طيار ، فما السبب الذي يجعلهم يخطئون هذه الطوب؟
"انظر ، عالم أجهزة الكمبيوتر يتكون من أصفار وآحاد ، كل شيء واضح.لقد وضعنا هذا المنطق ، وحصلنا على الجواب.ما نضعه على المستوى الحسابي يمكن القيام به في العالم الحقيقيبريق الشمس ، عاصفة من الرياح ، والطوب كان بالفعل في المكان الخطأ.هذه هي مهمة فرع جديد من العلوم ، السلامة الوظيفية ، المستمدة منمعلوماتية ، عندما نحاول التكيف مع تصرفات البيئة وتطوير حل يسمح لنا بذلكوهذه مهمة صعبة.لديها حلول ، لكن لا أحد منها يضمن بشكل كاملنجاح.
- في الوصول الجماعي بدون طيار ظهرت منذ وقت ليس ببعيد. هل تعتقد أن الوضع سيستمر كما هو ، حتى أستطيع الذهاب وشراء طائرة بدون طيار؟ تعتبر الآن لعبة ، هل هذا التغيير؟
- أنا لست محاميا ، ولكن بطريقة ودية ، ينبغي أن يكونقدم بعض القيود. من سلسلة "شراء طائرة بدون طيار كبيرة دون أي وثائق ، والتراخيص وأشياء أخرى أمر خاطئ". شراء لعبة الطائرة بدون طيار؟ لماذا لا ، فمن غير المرجح أن يسبب الكثير من الضرر. هنا مرة أخرى ، القصة هي أنه إذا كنت ترغب في ذلك ، يمكن أن يختتم كل شيء في ضوء سلبي. لذلك ، أنا شخص مرتبط بالعلم ، أرغب في أن يكون هذا متاحًا للجميع. لكن الشخص الذي يسير في الشوارع يرغب في فرض بعض القيود المعقولة. انه معقول.
سرب المخابرات - في الروبوتات والبشر
- لقد شاركت في التنبؤ بسلوك الناس.في حالات الطوارئ ومحاكاة ذلك على أساس المأساة في "الحصان العرجاء". من الواضح كيف يمكنك إنشاء نموذج شريط رقمي. ولكن كيف يمكنك التنبؤ سلوك الناس؟ بناء على ما البيانات؟
- لا ، في الحقيقة. يتصرف الإنسان عمومًا بشكل تلقائي ، خاصة في حالات الطوارئ. لكن لدينا فرضية ، قمنا باختبارها عن طريق وضع نماذج للحالة التي حدثت.
- كيف كنت نموذجا لسلوك الناس؟
- إذا تحدثنا عن المنطق الموجود هناكبيدق ، وهذا هو ما يسمى المخابرات سرب. متوسط الحركة ، واختيار القادة الشرطيين ، والحركة للخروج ، وهلم جرا. تماما مبدأ تافهة. بشكل عام ، مبدأ أي معلومات استخبارية - لدينا جسيم يمكن أن يتصرف بسذاجة شديدة ، ولديه مبادئ بسيطة وبسيطة. ولكن في النهاية ، يتم الحصول على التأثير عندما يتصرف النظام بأكمله بذكاء شديد.
- أنت تتحدث الآن بعبارات أكثر قابلية للتطبيق على التكنولوجيا. إذا كنا نتحدث عن الناس ، هل هو نفسه؟
- الروبوت مبني على مبادئ الإنسان. إذا قمت بأخذ نظام من شخص وتطبيقه على إنسان آلي ، فيمكنني على الأقل تطبيق النظام من إنسان آلي إلى شخص ما. في مجال تكنولوجيا المعلومات ، تتم صياغة هذه القواعد لفترة طويلة جدًا. على الأقل منذ عام 1986.
- في الواقع ، لقد أثبتت أنه يعمل في الأماكن العامة؟
- نعم ، حاولنا ، وهو يعمل. لست أخصائي اجتماعي ولا أخصائي نفسي ، لكن يبدو لي أن النتيجة من وجهة نظر إجراء تجربة علمية قد تحققت: فالشخص في حالات الطوارئ ينحدر إلى مستوى السلوك غير العادي. ويمكن نسخ هذا المستوى عاديا من سلوك الطيور ، مشروط. من حيث المبدأ ، اتضح.
"من الأفضل أن أقتلني أكثر من طفل": أخلاقيات الطائرات بدون طيار
- تحدثت عن القضايا الأخلاقيةالطائرات بدون طيار ومعضلة الاختيار إذا كان لديهم لقتل شخص ما. مشكلة عربة بالكاد ممكن في الحياة الحقيقية. لكن بشكل عام ، هل تعتقد أنك بحاجة إلى برمجة مثل هذه الأشياء؟ وهل يمكن أن تحدث في الحياة الحقيقية؟
- سوف تنشأ بالتأكيد في الحياة الحقيقية ، وإذا لم نبرمجها ، ماذا سيحدث بعد ذلك؟ انظر ، لقد طورنا خوارزمية ، والجهاز يعمل ، كل شيء على ما يرام ، ومن ثم يحدث أن الجدة والطفل قد هربا من نهايات مختلفة من الطريق. إذا لم نضع منطق السلوك في هذه الحالة ، فسوف نتنصل ، كما كان ، من المسؤولية الأخلاقية عنه. هذه خطوة نحو الجبن ، على ما أعتقد.
incut
"إذا لم نضع نموذجًا معينًا من السلوك في نظام غير مأهول في مثل هذا الموقف ، فما الذي سيفعله؟"
"هذا يعتمد على النظام.ربما سيحاول تقليل مخاطره ، وبشكل مشروط ، ضرب من هو أقرب.
- أنت تقول أن علينا برمجة كل شيء. من عليه إذن أن يقرر من سيسقط؟
- يبدو لي أن ماساتشوستس (معهد ماساتشوستس للتكنولوجيا - "التكنولوجيا الفائقة") سارت في الاتجاه الصحيح - الديمقراطية.
علماء من تكنولوجيا ماساتشوستسصنع Institute (MIT) لعبة يدعى فيها المستخدم للاختيار من بين نوعين مختلفين من سلوك مركبة غير مأهولة في حالة المعضلات الأخلاقية. وكانت النتيجة دراسة عالمية شارك فيها ملايين الأشخاص في مئات البلدان. اتضح أن الأشخاص في مختلف البلدان لديهم أفكار مختلفة حول كيفية تعامل الطائرات بدون طيار مع القضايا الأخلاقية.
- إذن علينا التصويت ، من الذي يجب أن يسقط طائرة بدون طيار؟
يجب إجراء دراسة اجتماعية تسمح لنا بذلكستكون البشرية جمعاء مسؤولة عن ذلك ، وليس مبرمجا واحدا فقط.
- هل تعتقد أن هذا سوف ينجح ، سيقبله الناس؟
"لا يزال الأمر سيسبب الاستياء لأن الكثير من الناس قد تم منحهم خيارا ، وسيقوم شخص ما بذلك.ولكن إذا لم يكن هناك مثل هذا الخيار على الإطلاق ، وبدلا من قرار استبدادي ، فهذا ليس عادلا تماما.