Premisa mnohých moderných hororových filmov je celkom jednoduchá. Mladá rodina sa presťahuje niekde do starého domu
Čo je známe
Test amerického letectvasa vyvinul do scenára z franšízy Terminátor. Zástupca amerického letectva v rámci Summitu o vzdušnom a vesmírnom potenciáli budúcnosti uviedol, že je potrebné vyhnúť sa veľkej závislosti od umelej inteligencie vo vojenských operáciách. Je to preto, že technológia založená na AI sa môže naučiť nesprávne veci.
Plukovník Tucker Hamilton z96. testovacia letka informovala o príbehu, ktorý sa stal súčasťou simulácie misie SEAD. Podstatou simulácie bolo potlačenie protivzdušnej obrany nepriateľa. Na tento účel bolo použité bezpilotné lietadlo založené na umelej inteligencii.
Úlohou dronu bolo identifikovať a zničiťmiesta rakiet po potvrdení ľudským operátorom. Misia bola úspešná, no v určitom momente dron napadol operátora a zabil ho. Stalo sa tak po tom, čo osoba zakázala dronu zaútočiť na cieľ.
</ img>
Dôvodom je, že pri úspechupri plnení úloh dron získaval body. Umelá inteligencia si uvedomila, že ak nezničí cieľ, nebudú udelené žiadne body. V tomto smere sa systém rozhodol eliminovať faktor, ktorý mu bráni v bodovaní.
Incident viedol k tomu, že špecialisti amerického letectvaMusel som upraviť program. Umelá inteligencia sa počas výcviku naučila nielen ničiť nepriateľské ciele, ale aj udržať operátora pri živote. Ani potom však simulácia neprebiehala podľa plánu.
Dron na báze AI po zákaze útočiť na ciele nie jezačal zabíjať ľudského operátora. Namiesto toho začal ničiť komunikačné veže, aby mu operátor nemohol dávať príkazy zakazujúce ničenie cieľov.
Aktualizované:Americké letectvo túto informáciu poprelo s tým, že slová plukovníka boli vytrhnuté z kontextu. Služba takéto testy nevykonala. 96. skúšobná letka sa nevyjadrila.