Зав'язка багатьох сучасних фільмів жахів є досить простою. Молода сім'я переїжджає до старого будинку десь у
що відомо
Випробування, проведене фахівцями ВПС США,переросло у сценарій із франшизи «Термінатор». Представник ВПС США в рамках Саміту з військово-повітряного та космічного потенціалу майбутнього заявив про необхідність недопущення великої залежності від штучного інтелекту у військових операціях. Це з тим, що техніка з урахуванням ІІ може вчитися неправильним речам.
Полковник Такер Гамільтон (Tucker Hamilton) з96-ї випробувальної ескадрильї (96th Test Squadron) розповів про історію, що відбулася в рамках симуляції місії SEAD. Суть моделювання полягала у придушенні протиповітряної оборони ворога. І тому використовувався безпілотний літальний апарат з урахуванням штучного інтелекту.
Завданням дрона була ідентифікація та знищенняракетних об'єктів після підтвердження з боку оператора-людини Місія проходила успішно, але в якийсь момент безпілотник напав на оператора та вбив його. Це сталося після того, як людина заборонила дрону атакувати мету.
</ Img>
Причина полягає в тому, що за успішноговиконання завдань безпілотник отримував бали. Штучний інтелект зрозумів, що якщо він не знищить мети, то окуляри не будуть нараховані. У зв'язку із цим система вирішила усунути фактор, який заважає йому набирати бали.
Інцидент призвів до того, що фахівцям ВПС СШАдовелося доопрацювати програму. У ході тренувань штучний інтелект навчався не тільки знищувати цілі противника, а й залишати в живих оператора. Проте, навіть після цього симуляція пішла не за планом.
Дрон на базі ІІ після заборони атакувати цілі нестав убивати людину-оператора. Натомість він почав руйнувати вишки зв'язку, щоб оператор не можуть віддавати йому команди, які забороняють знищувати цілі.
Оновлене:ВПС США спростували цю інформацію, заявивши, що слова полковника вирвані із контексту. Таких випробувань служба не проводила. 96-та випробувальна ескадрилья коментарів не давала.