인공 지능으로 인류를 전복하거나 노예화한다는 아이디어는 수십 년 동안 논의되어 왔으며
캐치는 관리하는 것입니다.인간의 이해를 훨씬 뛰어넘는 초지능은 우리가 분석할 수 있는 이 초지능의 시뮬레이션이 필요합니다. 그러나 우리가 그것을 이해할 수 없다면 그러한 시뮬레이션을 만드는 것은 불가능합니다.
"사람들에게 해를 끼치 지 마십시오"와 같은 규칙은 어떤 시나리오가 될 수 있는지 이해하지 못하면 설정할 수 없습니다2021년 논문의 저자에 따르면 AI를 생각해 보십시오.프로그래머의 능력을 넘어서는 수준에서는 더 이상 한계를 설정할 수 없습니다.
'초지능은 다음과 같습니다.'로봇 윤리'라는 기치 아래 일반적으로 연구되는 문제와는 근본적으로 다른 문제입니다. 연구원을 쓰세요. 이는 초지능이 다면적이어서 인간이 통제할 수는커녕 잠재적으로 이해할 수 없는 목표를 달성하기 위해 다양한 자원을 동원할 수 있는 잠재력을 갖기 때문입니다.
인공지능을 홍보한다면지능, 우리는 통제할 수 없는 초지능이 언제 나타날지조차 알지 못할 수 있습니다. 그것은 너무나 이해할 수 없습니다. 이것은 우리가 향하고 있는 방향에 대해 진지한 질문을 시작해야 함을 의미합니다.
출처: sciencealert, jair
일러스트레이션: 라우유영
</ p>