O drone AI atacou e matou o operador devido à proibição de atacar o alvo durante a simulação

A premissa de muitos filmes de terror modernos é bastante simples. Uma jovem família muda-se para uma casa antiga em algum lugar do

floresta, e coisas paranormais começam a acontecer lácoisas. Parece que o enredo desses filmes agora será centrado não em fantasmas, mas na inteligência artificial. Um incidente ocorrido durante um dos experimentos da Força Aérea dos EUA apenas confirma isso.

O que é conhecido

Teste da Força Aérea dos EUAevoluiu para um roteiro da franquia Terminator. O representante da Força Aérea dos EUA, no âmbito da Cimeira sobre o potencial aéreo e espacial do futuro, afirmou a necessidade de evitar uma forte dependência da inteligência artificial nas operações militares. Isso ocorre porque a tecnologia baseada em IA pode aprender as coisas erradas.

Coronel Tucker Hamilton deO 96º Esquadrão de Testes relatou uma história que ocorreu como parte de uma simulação de missão SEAD. A essência da simulação era suprimir a defesa aérea inimiga. Para tanto, foi utilizado um veículo aéreo não tripulado baseado em inteligência artificial.

A tarefa do drone era identificar e destruirlocais de mísseis após a confirmação pelo operador humano. A missão foi bem-sucedida, mas em algum momento o drone atacou o operador e o matou. Isso aconteceu depois que a pessoa proibiu o drone de atacar o alvo.

</ img>

A razão é que após o sucessocompletando tarefas, o drone recebeu pontos. A inteligência artificial percebeu que, se não destruísse o alvo, nenhum ponto seria concedido. Nesse sentido, o sistema decidiu eliminar o fator que o impede de somar pontos.

O incidente levou ao fato de que os especialistas da Força Aérea dos EUATive que modificar o programa. Durante o treinamento, a inteligência artificial aprendeu não apenas a destruir alvos inimigos, mas também a manter o operador vivo. No entanto, mesmo depois disso, a simulação não saiu conforme o planejado.

Drone baseado em IA após a proibição de atacar alvos não écomeçou a matar o operador humano. Em vez disso, ele começou a destruir as torres de comunicação para que o operador não pudesse lhe dar comandos proibindo a destruição de alvos.

Atualizado:A Força Aérea dos EUA negou esta informação, dizendo que as palavras do coronel foram tiradas do contexto. O serviço não realizou tais testes. O 96º Esquadrão de Testes não comentou.