แนวคิดเรื่องปัญญาประดิษฐ์โค่นล้มหรือกดขี่มนุษยชาติได้รับการพูดถึงมานานหลายทศวรรษและ
ที่จับได้คือการจัดการsuperintelligence ที่อยู่เหนือความเข้าใจของมนุษย์จะต้องจำลอง superintelligence ที่เราวิเคราะห์ได้ แต่ถ้าเราไม่สามารถเข้าใจมันได้ มันก็เป็นไปไม่ได้ที่จะสร้างแบบจำลองดังกล่าว
กฎเช่น“ไม่ทำอันตรายผู้เขียนบทความปี 2021 กล่าวว่า ไม่สามารถระบุคนได้หากเราไม่เข้าใจว่า AI สามารถเกิดขึ้นได้อย่างไร เมื่อระบบคอมพิวเตอร์ทำงานในระดับที่เกินความสามารถของโปรแกรมเมอร์ของเรา เราจะไม่สามารถกำหนดขีดจำกัดได้อีกต่อไป
“ความฉลาดหลักแหลมเป็นตัวแทนปัญหาโดยพื้นฐานที่แตกต่างไปจากปัญหาที่มักศึกษาภายใต้ร่มธงของ “จริยธรรมของหุ่นยนต์”, – เขียนนักวิจัย “นี่เป็นเพราะว่าสติปัญญาขั้นสูงมีหลายแง่มุม ดังนั้นจึงมีศักยภาพในการระดมทรัพยากรที่หลากหลายเพื่อบรรลุเป้าหมายที่มนุษย์อาจไม่สามารถเข้าใจได้ ไม่ต้องพูดถึงการควบคุมเลย”
ถ้าเราจะโปรโมทของเทียมสติปัญญา เราอาจไม่รู้ด้วยซ้ำว่าความฉลาดหลักแหลมซึ่งอยู่เหนือการควบคุมของเรา จะปรากฏขึ้นเมื่อใด เป็นสิ่งที่เข้าใจยาก ซึ่งหมายความว่าเราต้องเริ่มถามคำถามอย่างจริงจังเกี่ยวกับทิศทางที่เรากำลังมุ่งหน้าไป
ที่มา: sciencealert, jair
ภาพประกอบ: ยูยองเลา
</ p>