AI dron zaútočil a zabil operátora kvůli zákazu útočit na cíl během simulace

Premisa mnoha moderních hororů je docela jednoduchá. Mladá rodina se stěhuje někam do starého domu

les a tam se začnou dít paranormální věcivěci. Zdá se, že děj takových filmů se nyní nebude soustřeďovat na duchy, ale na umělou inteligenci. Incident, ke kterému došlo během jednoho z experimentů amerického letectva, to jen potvrzuje.

Co je známo

Test provedený specialisty amerického letectvase vyvinul do scénáře z franšízy Terminátor. Zástupce amerického letectva na Future Air and Space Capability Summit hovořil o nutnosti vyhnout se velké závislosti na umělé inteligenci ve vojenských operacích. Je to proto, že technologie poháněná umělou inteligencí se může naučit špatné věci.

Plukovník Tucker Hamilton z96. testovací squadrona informovala o příběhu, který se stal součástí simulace mise SEAD. Podstatou simulace bylo potlačení protivzdušné obrany protivníka. K tomuto účelu bylo použito bezpilotní letadlo založené na umělé inteligenci.

Úkolem dronu bylo identifikovat a zničitraketová místa po potvrzení od lidského operátora. Mise byla úspěšná, ale v určitém okamžiku dron napadl operátora a zabil ho. Stalo se tak poté, co osoba zakázala dronu útočit na cíl.

</ img>

Důvodem je, že v případě úspěchuplnění úkolů, dron získal body. Umělá inteligence si uvědomila, že pokud nezničí cíl, nebudou uděleny žádné body. V tomto ohledu se systém rozhodl eliminovat faktor, který mu brání v získávání bodů.

Incident vedl k tomu, že specialisté amerického letectvaMusel jsem upravit program. Umělá inteligence se během výcviku naučila nejen ničit nepřátelské cíle, ale také nechat operátora naživu. Ani poté však simulace neprobíhala podle plánu.

Dron na bázi umělé inteligence nebude po zákazu útočit na cílezačal zabíjet lidského operátora. Místo toho začal ničit komunikační věže, aby mu operátoři nemohli dávat příkazy zakazující ničení cílů.

Aktualizováno:Americké letectvo tuto informaci popřelo s tím, že slova plukovníka byla vytržena z kontextu. Služba takové testy neprováděla. 96. testovací letka se nevyjádřila.