เสียงหึ่งๆพูดโกหกได้ไหม?
— หัวข้อบรรยายของคุณคือ “ทำไมเราถึงบังคับหุ่นยนต์ให้โกหก” ตั้งอยู่ในความคลาสสิก
— ในกรณีของเรา การโกหกคือเมื่อมีข้อมูลเกี่ยวกับวิธีการทำงานของโลกแห่งความเป็นจริงไม่สอดคล้องกับสิ่งที่เราอ่านและถ่ายทอดจากภายนอก ด้วยเหตุผลอะไร? เซ็นเซอร์ของเราเสียและเราเห็นมันแบบนั้นจริงๆ หรือเรากำลังปลอมแปลงมันเพื่อการปลอมแปลง หรือด้วยเหตุผลอื่นใด เมื่อเราสื่อสารฉันสามารถโกหกได้ เพราะผมสรุปผิดหรือมองไม่ดี ไม่สำคัญสำหรับคุณ ข้อมูลนี้จะเป็นเท็จสำหรับคุณไม่ว่าในกรณีใด นั่นเป็นเหตุผลที่เราดูวิธีการควบคุมที่ทำให้ระบบปลอดภัย
- เมื่อคุณพูดถึงหุ่นยนต์และ“ ระบบตัวแทนหลายตัว” คุณหมายถึงยานพาหนะไร้คนขับ
- ไม่นี่เป็นเพียงจุดหมายปลายทางยอดนิยม ตอนนี้หัวข้อที่นิยมมากที่สุดคือยานพาหนะทางอากาศหมดกำลังใจ
- คุณทดสอบวิธีแก้ปัญหาที่อาจเกิดขึ้นหรือไม่?
- เรามีสองระดับ ในระดับแรกเราจะดูว่าข้อมูลเดินทางไปในโดรนเพราะข้อมูลจากเซ็นเซอร์ยังคงถูกประมวลผลก่อนถึงอุปกรณ์คอมพิวเตอร์ ในระดับที่สองจะมีการแลกเปลี่ยนข้อมูลระหว่างโดรนและเราก็ทำการทดสอบ เราดูว่ามันเกี่ยวข้องกับโลกแห่งความจริงอย่างไร
- โดรนตอนนี้แตกต่าง - ทหารพลเรือนและอื่น ๆ ลูกกระจ๊อกที่แลกเปลี่ยนข้อมูลระหว่างกันด้วยวิธีนี้ - นี่เป็นคลาสที่เฉพาะเจาะจงหรือไม่?
- ไม่จริง ทุกคนสามารถแลกเปลี่ยนได้ฉันไม่รู้จริงๆว่ามีอุปกรณ์โดรนสักตัวที่ไม่เปิดเผยข้อมูล แม้ว่าคุณจะควบคุมด้วยรีโมทคอนโทรล คุณก็ยังสามารถรับมันได้ นั่นเป็นเหตุผลที่เราทำงานในระดับนามธรรมที่ค่อนข้างสูงโดยใช้การใช้งานส่วนตัว แต่โดยทั่วไปแล้วสิ่งเหล่านี้เป็นวิธีแก้ปัญหาที่ค่อนข้างทั่วไป - ยาสามัญอย่างที่พวกเขาพูด
- ปีที่ผ่านมาเราได้เห็นกรณีที่โดรนสร้างปัญหาให้กับผู้คน โดรนที่สามารถชนกับเครื่องบินโดรนที่บล็อกรันเวย์ เป็นไปได้ไหมที่จะป้องกันสถานการณ์เช่นนี้?
- ถ้ามันถูกควบคุมโดยมนุษย์แล้วเท่านั้นวิธี - เพียงแค่เคาะมันลง นั่นคือการควบคุมทำให้เขาทำในสิ่งที่เราต้องการหรือทำลายร่างกาย หากมีการซื้อโดรนตอนแรกมีคนอยู่แล้วและเราจัดการโดยกำหนดเองคุณสามารถตอบโต้ได้รู้ขั้นตอนวิธีมาตรฐาน แต่ตอนนี้การรวบรวมเสียงพึมพำเป็นงานสำหรับมหาวิทยาลัยระดับประถมศึกษาหรือหลักสูตรมัธยมปลาย คู่มือจำนวนมากชิ้นส่วนสามารถซื้อได้โดยไม่มีปัญหาก็ไม่แพงมาก ดังนั้นตรรกะที่จะอยู่ในโดรนของตัวเองไม่สามารถสร้างมาตรฐานได้อย่างสมบูรณ์
- คุณพูดเกี่ยวกับการสกัดกั้นการควบคุม เท่าที่เป็นไปได้สิ่งที่จำเป็นสำหรับสิ่งนี้?
- ถ้าเราพิจารณาซื้อมาบ้างระบบเรารู้โปรโตคอลที่มันสื่อสาร ในทางทฤษฎีเราสามารถแทนที่แผงควบคุม แต่นี่เป็นงานที่ไม่สำคัญ จากมุมมองของวิศวกรรมและวิทยาศาสตร์สิ่งนี้สามารถทำได้ ในทางปฏิบัตินี่เป็นงานวิศวกรรมที่ยากมาก แต่แก้ไขได้
- ตอนนี้ไม่มีใครรู้วิธีการทำเช่นนี้?
- เท่าที่ฉันรู้ไม่มีใคร ไม่ว่าในกรณีใดข้อมูลดังกล่าวจะไม่เปิดเผยต่อสาธารณะ
- ปัญหาอื่น ๆ ที่คุณเห็นที่อาจเกิดขึ้นในอนาคตอันใกล้นี้หากเรากำลังพูดถึงโดรน
— สำหรับฉันในฐานะเจ้าหน้าที่รักษาความปลอดภัย ปัญหาหลักคือว่าระบบจะไม่ทำงานอย่างที่คนต้องการ ฉันไม่ได้พูดถึง "เมทริกซ์" แต่เกี่ยวกับความจริงที่ว่าตรรกะและพฤติกรรมของระบบอาจถูกละเมิดบางแห่ง เราต้องการเห็นผลลัพธ์อย่างหนึ่ง แต่จะมีอีกอย่างหนึ่ง พูดง่ายๆ ก็คือ เราต้องการสร้างสนามกีฬาจากโดรนเหล่านี้ ปัญหาหลักคืออิฐในฐานรากไม่สามารถวางได้ตามต้องการ นั่นคือเราจะสร้างสนามกีฬาทั่วโลก แต่การเบี่ยงเบนเล็กน้อยภายในโครงสร้างเหล่านี้จะทำให้โครงสร้างทั้งหมดพังทลายลง
- หากเราตั้งโปรแกรมซอฟต์แวร์ทั้งหมดสำหรับโดรนเหล่านี้ด้วยเหตุผลอะไรที่พวกเขาทำให้อิฐเหล่านี้ผิด
- ดูสิ โลกของคอมพิวเตอร์ประกอบด้วยศูนย์และหนึ่ง ทุกอย่างชัดเจน เราวางตรรกะนี้และได้รับคำตอบ โลกทางกายภาพประกอบด้วยค่าต่างๆ ตั้งแต่ศูนย์ถึงหนึ่ง สิ่งที่เราจินตนาการในระดับการคำนวณอาจไม่สามารถแปลไปสู่โลกแห่งความเป็นจริงได้ แสงจ้าของดวงอาทิตย์ ลมกระโชกแรง และอิฐไม่อยู่ในแนวที่ถูกต้องอีกต่อไป นี่คืองานของสาขาวิทยาศาสตร์ใหม่ - ความปลอดภัยในการใช้งาน ซึ่งได้มาจากความปลอดภัยของข้อมูล เมื่อเราพยายามปรับให้เข้ากับการกระทำของสภาพแวดล้อมและพัฒนาวิธีแก้ปัญหาที่จะช่วยให้เราประกอบอิฐได้โดยไม่คำนึงถึงปัจจัยภายนอก และนี่เป็นงานที่ยาก มีวิธีแก้ปัญหา แต่ไม่มีวิธีใดรับประกันความสำเร็จได้อย่างสมบูรณ์
- ในโดรนการเข้าถึงมวลปรากฏขึ้นไม่นานที่ผ่านมา คุณคิดว่าสถานการณ์จะยังคงเหมือนเดิมหรือไม่ฉันสามารถไปซื้อโดรนได้หรือไม่? ตอนนี้ถือว่าเป็นของเล่นแล้วการเปลี่ยนแปลงนี้สามารถทำได้หรือไม่?
- ฉันไม่ได้เป็นนักกฎหมาย แต่ควรเป็นอย่างดีแนะนำข้อ จำกัด บางอย่าง จากซีรีส์“ การซื้อโดรนตัวใหญ่โดยไม่มีเอกสารใบอนุญาตและสิ่งอื่น ๆ นั้นผิด” ซื้อโดรนของเล่นหรือไม่ ทำไมไม่เขาไม่น่าจะสร้างความเสียหายมาก ที่นี่อีกครั้งเรื่องราวคือถ้าคุณต้องการทุกอย่างสามารถห่อด้วยแสงเชิงลบ ดังนั้นฉันซึ่งเป็นบุคคลที่เกี่ยวข้องกับวิทยาศาสตร์จึงอยากให้สิ่งนี้เป็นแบบสาธารณะทั้งหมด แต่คนที่เดินไปตามถนนต้องการมีข้อ จำกัด ที่สมเหตุสมผล มันสมเหตุสมผล
หน่วยสืบราชการลับจับกลุ่ม - ในหุ่นยนต์และมนุษย์
- คุณมีส่วนร่วมในการทำนายพฤติกรรมของผู้คนในสถานการณ์ฉุกเฉินและจำลองสถานการณ์บนพื้นฐานของโศกนาฏกรรมใน "The Lame Horse" เป็นที่ชัดเจนว่าคุณสามารถสร้างแบบจำลองบาร์ดิจิทัลได้อย่างไร แต่คุณจะทำนายพฤติกรรมของผู้คนได้อย่างไร ขึ้นอยู่กับข้อมูลอะไร
- ไม่จริง โดยทั่วไปแล้วมนุษย์มักมีพฤติกรรมค่อนข้างเป็นธรรมชาติโดยเฉพาะในกรณีฉุกเฉิน แต่เรามีสมมติฐานซึ่งเราทดสอบโดยการจำลองสถานการณ์ที่เกิดขึ้น
— คุณจำลองพฤติกรรมของผู้คนอย่างไร? ผลลัพธ์ของคุณใกล้เคียงกับความเป็นจริงมาก
- ถ้าเราพูดถึงตรรกะที่มีจำนำนี้เป็นหน่วยสืบราชการลับที่เรียกว่าฝูง การหาค่าเฉลี่ยการเคลื่อนไหวการเลือกผู้นำแบบมีเงื่อนไขการเคลื่อนไหวไปสู่การออกและอื่น ๆ ค่อนข้างเป็นเรื่องเล็กน้อย โดยทั่วไปแล้วหลักการของสติปัญญาใด ๆ - เรามีอนุภาคที่สามารถทำงานได้โง่มากมันมีหลักการที่เรียบง่าย แต่ในท้ายที่สุดผลที่ได้คือเมื่อทั้งระบบทำงานอย่างชาญฉลาด
- ตอนนี้คุณกำลังพูดในแง่ที่เกี่ยวข้องกับเทคโนโลยีมากขึ้น ถ้าเราพูดถึงผู้คนมันเหมือนกันหรือไม่?
- หุ่นยนต์สร้างขึ้นบนหลักการของมนุษย์ ถ้าฉันใช้ระบบจากบุคคลและนำไปใช้กับหุ่นยนต์อย่างน้อยฉันก็สามารถใช้ระบบจากหุ่นยนต์กับบุคคล ในด้านไอทีกฎเหล่านี้ถูกสร้างขึ้นมาเป็นเวลานานมาก อย่างน้อยตั้งแต่ปี 1986
- ในความเป็นจริงคุณพิสูจน์แล้วว่ามันทำงานได้ในที่สาธารณะ?
- ใช่เราลองแล้วก็ใช้งานได้ ฉันไม่ได้เป็นนักสังคมวิทยาและไม่ใช่นักจิตวิทยา แต่สำหรับฉันแล้วดูเหมือนว่าผลลัพธ์จากมุมมองของการดำเนินการทดลองทางวิทยาศาสตร์กลายเป็นจริง: บุคคลในกรณีฉุกเฉินเข้าสู่ระดับพฤติกรรมที่ค่อนข้างซ้ำ และระดับซ้ำ ๆ นี้สามารถคัดลอกมาจากพฤติกรรมของนกตามเงื่อนไข ในหลักการมันเปิดออก
“ ฉันควรจะฆ่าฉันเสียดีกว่าเด็ก”: จริยธรรมของ UAV
- คุณพูดคุยเกี่ยวกับประเด็นด้านจริยธรรมUAVs และความลำบากในการเลือกถ้าพวกเขาต้องฆ่าคน ปัญหาของรถเข็นนั้นแทบจะเป็นไปไม่ได้ในชีวิตจริง แต่โดยทั่วไปคุณคิดว่าคุณจำเป็นต้องเขียนโปรแกรมดังกล่าวหรือไม่? และพวกเขาสามารถเกิดขึ้นได้ในชีวิตจริง?
- พวกเขาจะเกิดขึ้นอย่างแน่นอนในชีวิตจริงและหากเราไม่ได้ตั้งโปรแกรมมันจะเกิดอะไรขึ้น? ดูเราได้พัฒนาอัลกอริทึมเครื่องทำงานทุกอย่างดำเนินไปแล้วมันเกิดขึ้นที่คุณยายและเด็กวิ่งออกมาจากปลายถนนที่แตกต่างกัน หากเราไม่ได้วางตรรกะของพฤติกรรมในกรณีนี้เราก็ควรปฏิเสธความรับผิดชอบทางศีลธรรมสำหรับมัน ฉันคิดว่านี่เป็นก้าวย่างสู่ความขี้ขลาด
incut
“ ถ้าเราไม่วางรูปแบบพฤติกรรมบางอย่างในระบบไร้คนขับในสถานการณ์เช่นนี้มันจะทำอย่างไร”
— ขึ้นอยู่กับระบบ บางทีเขาอาจจะพยายามลดความเสี่ยงให้เหลือน้อยที่สุดและยิงคนที่อยู่ใกล้กว่าตามเงื่อนไข
- คุณบอกว่าเราต้องเขียนโปรแกรมทั้งหมด ใครจะต้องตัดสินใจว่าจะยิงใคร?
- สำหรับฉันแล้วดูเหมือนว่าแมสซาชูเซตส์ (MIT -“ เทคโนโลยีขั้นสูง”) ไปในทางที่ถูกต้อง - ประชาธิปไตย
นักวิทยาศาสตร์จากเทคโนโลยีแมสซาชูเซตส์Institute (MIT) สร้างเกมที่ผู้ใช้ได้รับเชิญให้เลือกระหว่างพฤติกรรมสองแบบของยานพาหนะไร้คนขับในกรณีที่มีประเด็นขัดแย้งทางจริยธรรม ผลที่ได้คือการศึกษาทั่วโลกที่ผู้คนนับล้านเข้าร่วมในหลายร้อยประเทศ ปรากฎว่าคนในประเทศต่าง ๆ มีความคิดที่แตกต่างกันเกี่ยวกับวิธีที่โดรนควรจัดการกับปัญหาด้านจริยธรรม
- ดังนั้นเราต้องลงคะแนนใครควรลงเสียงขึ้นจมูก?
- ไม่เชิง. จะต้องมีการศึกษาทางสังคมวิทยาที่จะทำให้เราตัดสินใจเลือกได้ มนุษยชาติทุกคนจะต้องรับผิดชอบ ไม่ใช่แค่โปรแกรมเมอร์เพียงคนเดียว
- คุณคิดว่ามันจะได้ผลหรือเปล่า
- สิ่งนี้จะยังคงทำให้เกิดความไม่พอใจเพราะว่ามีคนจำนวนมากได้รับตัวเลือก และบางคนก็ไม่เห็นด้วยกับตัวเลือกนั้นโดยธรรมชาติ แต่หากไม่มีทางเลือกเลย แต่มีการตัดสินใจแบบเผด็จการแทน การกระทำเช่นนี้ก็ไม่ยุติธรรมเลย