AI дрон атакува и уби оператора поради забраната за атака на целта по време на симулацията

Предпоставката на много съвременни филми на ужасите е доста проста. Младо семейство се мести в стара къща някъде в

гора и там започват да се случват паранормални нещанеща. Изглежда, че сюжетът на подобни филми вече ще бъде съсредоточен не върху призраци, а върху изкуствен интелект. Инцидент, който се случи по време на един от експериментите на ВВС на САЩ, само потвърждава това.

Какво е известно

Тест на ВВС на САЩеволюира в сценарий от франчайз Терминатор. Представителят на ВВС на САЩ, като част от Срещата на върха за въздушно-космическия потенциал на бъдещето, заяви необходимостта да се избегне силната зависимост от изкуствения интелект във военните операции. Това е така, защото технологията, базирана на AI, може да научи грешни неща.

Полковник Тъкър Хамилтън от96-та тестова ескадрила докладва за история, случила се като част от симулация на мисия SEAD. Същността на симулацията беше да се потисне противовъздушната отбрана на противника. За целта е използван безпилотен летателен апарат, базиран на изкуствен интелект.

Задачата на дрона беше да идентифицира и унищожиракетни обекти след потвърждение от човешкия оператор. Мисията е успешна, но по някое време дронът атакува оператора и го убива. Това се случи, след като лицето забрани на дрона да атакува целта.

</ img>

Причината е, че при успешенизпълнявайки задачи, дронът получава точки. Изкуственият интелект разбра, че ако не унищожи целта, няма да се присъждат точки. В тази връзка системата реши да елиминира фактора, който му пречи да печели точки.

Инцидентът доведе до факта, че специалистите от ВВС на САЩТрябваше да модифицирам програмата. По време на обучението изкуственият интелект се научи не само да унищожава вражески цели, но и да поддържа оператора жив. Дори и след това обаче симулацията не върви по план.

AI-базиран дрон след забраната за атака на цели не е таказапочна да убива човешкия оператор. Вместо това той започна да разрушава комуникационните кули, така че операторът да не може да му дава команди, забраняващи унищожаването на цели.

Обновено:ВВС на САЩ отрекоха тази информация, заявявайки, че думите на полковника са извадени от контекста. Сервизът не е правил такива тестове. От 96-та изпитателна ескадрила не коментират.