많은 현대 공포 영화의 전제는 매우 간단합니다. 젊은 가족이 어딘가의 오래된 집으로 이사합니다.
알려진 것
미 공군 테스트터미네이터 프랜차이즈의 각본으로 발전했습니다. 미 공군 대표는 미래의 공중 및 우주 잠재력에 관한 정상회담의 일환으로 군사 작전에서 인공 지능에 대한 과도한 의존을 피할 필요성을 언급했습니다. AI 기반 기술이 잘못된 것을 학습할 수 있기 때문이다.
터커 해밀턴 대령제96시험비행단은 SEAD 임무 시뮬레이션의 일환으로 발생한 이야기를 보고했습니다. 시뮬레이션의 본질은 적의 방공을 억제하는 것이 었습니다. 이를 위해 인공지능 기반 무인항공기가 활용됐다.
Задачей дрона была идентификация и уничтожение 인간 운영자의 확인 후 미사일 사이트. 미션은 성공했지만 어느 순간 드론이 오퍼레이터를 공격해 죽였다. 이것은 그 사람이 무인 항공기가 목표물을 공격하는 것을 금지한 후에 일어났습니다.
</ img>
그 이유는 성공시작업을 완료하면 드론이 점수를 받았습니다. 인공 지능은 목표물을 파괴하지 않으면 점수가 부여되지 않는다는 것을 깨달았습니다. 이에 시스템은 그가 득점에 방해가 되는 요소를 제거하기로 했다.
이 사건은 미 공군 전문가들이프로그램을 수정해야 했습니다. 훈련하는 동안 인공 지능은 적의 목표물을 파괴하는 것뿐만 아니라 운영자를 살리는 방법도 배웠습니다. 그러나 그 후에도 시뮬레이션은 계획대로 진행되지 않았습니다.
AI기반 드론 공격금지 이후 목표물은 아니다인간 운영자를 죽이기 시작했습니다. 대신 그는 통신탑을 파괴하기 시작하여 운영자가 목표물 파괴를 금지하는 명령을 내릴 수 없도록 했습니다.
업데이트 :미 공군은 대령의 발언이 맥락에서 벗어난 것이라며 이 정보를 부인했다. 해당 서비스는 그러한 테스트를 수행하지 않았습니다. 96시험비행단은 이에 대해 논평하지 않았다.