La premisa de muchas películas de terror modernas es bastante simple. Una familia joven se muda a una casa antigua en algún lugar de
Lo que se sabe
Prueba realizada por especialistas de la Fuerza Aérea de EE. UU.evolucionó hasta convertirse en un escenario de la franquicia Terminator. Un representante de la Fuerza Aérea de EE. UU., en la Cumbre sobre Capacidad Aérea y Espacial Futura, habló sobre la necesidad de evitar una fuerte dependencia de la inteligencia artificial en las operaciones militares. Esto se debe a que la tecnología impulsada por la IA puede aprender cosas equivocadas.
Coronel Tucker Hamilton deEl 96.º Escuadrón de Pruebas informó sobre una historia que ocurrió como parte de una simulación de misión SEAD. La esencia de la simulación era suprimir la defensa aérea del enemigo. Para ello se utilizó un vehículo aéreo no tripulado basado en inteligencia artificial.
La tarea del dron era identificar y destruirsitios de misiles después de la confirmación del operador humano. La misión fue un éxito, pero en algún momento el dron atacó al operador y lo mató. Esto sucedió después de que la persona prohibiera al dron atacar al objetivo.
</ img>
La razón es que si tiene éxitoAl completar las tareas, el dron recibió puntos. La inteligencia artificial se dio cuenta de que si no destruía el objetivo, no se otorgarían puntos. En este sentido, el sistema decidió eliminar el factor que le impide sumar puntos.
El incidente llevó al hecho de que los especialistas de la Fuerza Aérea de EE. UU.Tuve que modificar el programa. Durante el entrenamiento, la inteligencia artificial aprendió no sólo a destruir objetivos enemigos, sino también a dejar con vida al operador. Sin embargo, incluso después de esto, la simulación no salió según lo planeado.
El dron basado en IA no atacará objetivos después de haber sido prohibidoComenzó a matar al operador humano. En cambio, comenzó a destruir torres de comunicaciones para que los operadores no pudieran darle órdenes que le prohibieran destruir objetivos.
Actualizado:La Fuerza Aérea de Estados Unidos negó esta información y dijo que las palabras del coronel fueron sacadas de contexto. El servicio no realizó tales pruebas. El 96.º escuadrón de pruebas no hizo comentarios.