Daudzu mūsdienu šausmu filmu priekšnoteikums ir diezgan vienkāršs. Jauna ģimene pārceļas uz vecu māju kaut kur iekšā
Kas ir zināms
Pārbaudi veica ASV gaisa spēku speciālistiizvērtās par scenāriju no Terminatora franšīzes. ASV gaisa spēku pārstāvis Future Air and Space Capability Summit sanāksmē runāja par nepieciešamību izvairīties no lielas atkarības no mākslīgā intelekta militārajās operācijās. Tas ir tāpēc, ka ar AI darbināma tehnoloģija var iemācīties nepareizas lietas.
Pulkvedis Takers Hamiltons no96. pārbaudes eskadra ziņoja par stāstu, kas notika SEAD misijas simulācijas ietvaros. Simulācijas būtība bija apspiest ienaidnieka pretgaisa aizsardzību. Šim nolūkam tika izmantots bezpilota lidaparāts, kura pamatā ir mākslīgais intelekts.
Drona uzdevums bija identificēt un iznīcinātraķešu vietām pēc cilvēka operatora apstiprinājuma. Misija bija veiksmīga, taču kādā brīdī drons uzbruka operatoram un nogalināja viņu. Tas notika pēc tam, kad kāds cilvēks aizliedza dronam uzbrukt mērķim.
</ img>
Iemesls ir tas, ka, ja izdodasizpildot uzdevumus, drons saņēma punktus. Mākslīgais intelekts saprata, ka, ja tas neiznīcinās mērķi, punkti netiks piešķirti. Šajā sakarā sistēma nolēma novērst faktoru, kas viņam traucē iegūt punktus.
Incidents noveda pie tā, ka ASV gaisa spēku speciālistiMan bija jāmaina programma. Mācību laikā mākslīgais intelekts iemācījās ne tikai iznīcināt ienaidnieka mērķus, bet arī atstāt operatoru dzīvu. Tomēr arī pēc tam simulācija nenotika saskaņā ar plānu.
Uz mākslīgā intelekta bāzes drons pēc aizlieguma neuzbruks mērķiemsāka nogalināt cilvēku operatoru. Tā vietā viņš sāka iznīcināt sakaru torņus, lai operatori nevarētu dot viņam komandas, kas aizliedz iznīcināt mērķus.
Atjaunināts:ASV gaisa spēki noliedza šo informāciju, sakot, ka pulkveža vārdi ir izņemti no konteksta. Dienests šādas pārbaudes neveica. 96. pārbaudes eskadra komentārus nesniedza.