AI 시스템은 이미 우려를 불러일으키고 있으며, 특히 다른 기계를 제어할 수 있는 시스템은 더욱 그렇습니다. 많은
누군가 프로그램이 필요하다고 가정하자인간과 독립적으로 학습 할 수 있도록 우수한 인간 지능을 갖춘 인공 지능 시스템입니다. 그러면 인터넷에 연결된 AI가 인류의 모든 데이터에 액세스 할 수 있습니다. 그는 또한 모든 기존 프로그램을 교체하고 전 세계의 모든 기계를 제어 할 수 있습니다. 이 유토피아 또는 디스토피아가 일어날까요? AI가 암을 치료하고 세계 평화를 구축하며 기후 재앙을 피할 수 있습니까? 아니면 인류를 파괴하고 지구를 장악할까요?
컴퓨터 과학자와 철학자들은 초지능 AI가 인류에게 위협이 되지 않도록 제어할 수 있을지 궁금해합니다.
"세상을 지배하는 초 지능 기계,공상 과학 소설처럼 들립니다. 그러나 프로그래머는 이것을 어떻게 배웠는지 완전히 이해하지 못하는 반면, 특정 중요한 작업을 완전히 독립적으로 수행하는 기계가 이미 있습니다. 따라서이 문제가 언젠가는 제어 할 수없고 인류에게 위험해질 수 있는지에 대한 의문이 제기됩니다.”Max Planck 인간 개발 연구소의 사람과 기계 센터의 디지털 동원 그룹 책임자 인 연구 공동 저자 Manuel Sebrian은 말합니다.
과학자들은 방법에 대한 두 가지 다른 아이디어를 탐구했습니다.초 지능형 AI를 제어 할 수 있습니다. 한편으로, 초 지능 AI의 기능은 예를 들어 인터넷 및 기타 모든 기술 장치로부터 격리하여 외부 세계와 접촉 할 수 없도록 특별히 제한 할 수 있지만, 이는 초 지능 AI가 훨씬 덜 강력하고 인도 주의적 임무에 응답 할 수 없게 만듭니다. ... 그러한 기회가 없다면 AI는 예를 들어 윤리적 원칙을 프로그래밍하는 등 인류의 이익을 충족하는 목표만을 추구하도록 동기를 부여 할 수 있습니다. 그러나 연구원들은 또한 초 지능 AI를 제어하기위한 이러한 아이디어와 기타 현대적이고 역사적인 아이디어에는 한계가 있음을 보여줍니다.
그들의 연구에서 팀은초 지능 AI가 어떤 상황에서도 AI의 행동을 시뮬레이션하고 유해하다고 판단되면 중지함으로써 인간에게 해를 끼치 지 않도록하는 이론적 격리 알고리즘입니다. 그러나 신중한 분석에 따르면 현재의 컴퓨팅 패러다임에서는 이러한 알고리즘을 구축 할 수 없습니다.
“문제를 기본 규칙으로 분해하면이론적 인 컴퓨터 과학에 따르면 AI에게 세상을 파괴하지 말라고 알려주는 알고리즘은 실수로 자체 작업을 중단 할 수 있습니다. 그런 일이 발생하면 격리 알고리즘이 여전히 위협을 분석하는지, 그리고 악의적 인 AI를 포함하도록 차단했는지 알 수 없습니다. 본질적으로 이것은 격리 알고리즘을 사용할 수 없게 만든다”고 Center for People and Machines의 이사 인 Iyad Rahwan은 말합니다.
이러한 계산을 바탕으로 봉쇄 문제는 실현 불가능합니다. 즉, AI가 세상에 해를 끼칠지 여부를 결정하는 솔루션을 찾을 수있는 알고리즘이 없습니다.
참조 :
아르헨티나 보건부는 "Sputnik V"를받은 사람들의 부작용에 대한 데이터를 공개했습니다.
오리너구리는 포유류, 새 및 파충류의 유전 적 혼합물로 밝혀졌습니다.
낙태와 과학 : 출산 할 아이들에게 일어날 일