ระบบ AI กำลังสร้างความกังวลอยู่แล้ว โดยเฉพาะระบบที่สามารถควบคุมเครื่องจักรอื่นๆ ได้ มากมาย
สมมติว่ามีคนต้องการโปรแกรมระบบปัญญาประดิษฐ์ที่มีสติปัญญาของมนุษย์ที่เหนือกว่าเพื่อให้สามารถเรียนรู้ได้โดยอิสระจากมนุษย์ จากนั้น AI ที่เชื่อมต่อกับอินเทอร์เน็ตจะสามารถเข้าถึงข้อมูลทั้งหมดของมนุษยชาติได้ นอกจากนี้เขายังสามารถแทนที่โปรแกรมที่มีอยู่ทั้งหมดและควบคุมเครื่องจักรทั้งหมดทั่วโลก ยูโทเปียหรือดิสโทเปียนี้จะเกิดขึ้น? AI สามารถรักษามะเร็งสร้างสันติภาพของโลกและหลีกเลี่ยงภัยพิบัติจากสภาพภูมิอากาศได้หรือไม่? หรือมันจะทำลายมนุษยชาติและยึดครองโลก?
นักวิทยาศาสตร์คอมพิวเตอร์และนักปรัชญาสงสัยว่าเราจะสามารถควบคุม AI ที่ชาญฉลาดได้หรือไม่ เพื่อให้แน่ใจว่าจะไม่ก่อให้เกิดภัยคุกคามต่อมนุษยชาติ
"เครื่องจักรอัจฉริยะที่ปกครองโลกฟังดูเหมือนนิยายวิทยาศาสตร์ แต่มีเครื่องจักรที่ทำงานที่สำคัญบางอย่างอย่างเป็นอิสระและโปรแกรมเมอร์ไม่เข้าใจว่าพวกเขาเรียนรู้สิ่งนี้ได้อย่างไร ดังนั้นคำถามจึงเกิดขึ้นว่าในบางจุดอาจกลายเป็นสิ่งที่ไม่สามารถควบคุมได้และเป็นอันตรายต่อมนุษยชาติได้หรือไม่” Manuel Sebrian ผู้ร่วมเขียนการศึกษาหัวหน้ากลุ่มการระดมดิจิทัลที่ Center for People and Machines ที่ Max Planck Institute for Human Development กล่าว
นักวิทยาศาสตร์ได้สำรวจความคิดที่แตกต่างกันสองวิธีสามารถควบคุม AI อัจฉริยะได้ ในแง่หนึ่งขีดความสามารถของ AI อัจฉริยะอาจถูก จำกัด โดยเฉพาะตัวอย่างเช่นโดยการแยกมันออกจากอินเทอร์เน็ตและอุปกรณ์ทางเทคนิคอื่น ๆ ทั้งหมดเพื่อไม่ให้ติดต่อกับโลกภายนอกได้ แต่จะทำให้ AI ที่ชาญฉลาดมีประสิทธิภาพน้อยลงมากและไม่สามารถตอบสนองต่อการมอบหมายงานด้านมนุษยธรรมได้ ... หากไม่มีโอกาสเช่นนี้ AI ตั้งแต่แรกเริ่มอาจถูกกระตุ้นให้ทำตามเป้าหมายที่ตอบสนองความสนใจของมนุษยชาติเท่านั้นตัวอย่างเช่นโดยการเขียนโปรแกรมหลักการทางจริยธรรมลงในนั้น อย่างไรก็ตามนักวิจัยยังแสดงให้เห็นว่าแนวคิดสมัยใหม่และประวัติศาสตร์อื่น ๆ สำหรับการควบคุม AI อัจฉริยะมีขีด จำกัด
ในการวิจัยของพวกเขาทีมงานได้พัฒนาอัลกอริธึมการยับยั้งตามทฤษฎีที่ช่วยให้มั่นใจได้ว่า AI ที่ชาญฉลาดจะไม่สามารถทำร้ายมนุษย์ได้ไม่ว่าในสถานการณ์ใด ๆ โดยการจำลองพฤติกรรมของ AI ก่อนและหยุดการทำงานนั้นหากถือว่าเป็นอันตราย แต่การวิเคราะห์อย่างรอบคอบแสดงให้เห็นว่าในกระบวนทัศน์คอมพิวเตอร์ปัจจุบันของเราไม่สามารถสร้างอัลกอริทึมดังกล่าวได้
“ ถ้าเราแยกปัญหาออกเป็นกฎพื้นฐานวิทยาศาสตร์คอมพิวเตอร์เชิงทฤษฎีปรากฎว่าอัลกอริทึมที่บอกให้ AI ไม่ทำลายโลกอาจหยุดการทำงานของตัวเองโดยไม่ได้ตั้งใจ หากเป็นเช่นนั้นคุณจะไม่ทราบว่าอัลกอริทึมการกักกันยังคงวิเคราะห์ภัยคุกคามอยู่หรือไม่และหากหยุดให้มี AI ที่เป็นอันตราย ในความเป็นจริงสิ่งนี้ทำให้อัลกอริธึมการกักกันใช้งานไม่ได้” Iyad Rahwan ผู้อำนวยการศูนย์คนและเครื่องจักรกล่าว
จากการคำนวณเหล่านี้ปัญหาของการกักกันไม่สามารถเป็นไปได้กล่าวคือไม่มีอัลกอริทึมใดสามารถหาทางแก้ไขเพื่อตัดสินว่า AI จะเป็นอันตรายต่อโลกหรือไม่
ดูเพิ่มเติมที่:
กระทรวงสาธารณสุขของอาร์เจนตินาเปิดเผยข้อมูลเกี่ยวกับผลข้างเคียงในผู้ที่ได้รับ Sputnik V.
ตุ่นปากเป็ดกลายเป็นส่วนผสมทางพันธุกรรมของสัตว์เลี้ยงลูกด้วยนมนกและสัตว์เลื้อยคลาน
การทำแท้งกับวิทยาศาสตร์: จะเกิดอะไรขึ้นกับเด็กที่จะคลอด