Drona AI a atacat și ucis operatorul din cauza interdicției de a ataca ținta în timpul simulării

Premisa multor filme horror moderne este destul de simplă. O familie tânără se mută într-o casă veche undeva în

pădure, iar acolo încep să se întâmple lucruri paranormalelucruri. Se pare că intriga unor astfel de filme va fi acum centrată nu pe fantome, ci pe inteligența artificială. Un incident care a avut loc în timpul unuia dintre experimentele forțelor aeriene americane nu face decât să confirme acest lucru.

Ce este cunoscut

Test efectuat de specialiștii forțelor aeriene americanea evoluat într-un scenariu din franciza Terminator. Un reprezentant al Forțelor Aeriene SUA, la Future Air and Space Capability Summit, a vorbit despre necesitatea de a evita dependența puternică de inteligența artificială în operațiunile militare. Acest lucru se datorează faptului că tehnologia bazată pe inteligență artificială poate învăța lucruri greșite.

Colonelul Tucker Hamilton dinEscadrila 96 de testare a raportat despre o poveste care a avut loc ca parte a unei simulări a misiunii SEAD. Esența simulării a fost suprimarea apărării aeriene a inamicului. În acest scop, a fost folosit un vehicul aerian fără pilot bazat pe inteligență artificială.

Sarcina dronei era să identifice și să distrugăamplasamentele de rachete după confirmarea operatorului uman. Misiunea a avut succes, dar la un moment dat drona l-a atacat pe operator și l-a ucis. Acest lucru s-a întâmplat după ce o persoană a interzis dronei să atace ținta.

</ img>

Motivul este că dacă reușeșteîndeplinind sarcini, drona a primit puncte. Inteligența artificială și-a dat seama că, dacă nu distruge ținta, nu s-ar acorda niciun punct. În acest sens, sistemul a decis să elimine factorul care îl împiedică să câștige puncte.

Incidentul a dus la faptul că specialiștii din US Air ForceA trebuit sa modific programul. În timpul antrenamentului, inteligența artificială a învățat nu numai să distrugă țintele inamice, ci și să lase operatorul în viață. Cu toate acestea, nici după aceasta, simularea nu a mers conform planului.

Drona bazată pe inteligență artificială nu va ataca ținte după ce a fost interzisăa început să omoare operatorul uman. În schimb, a început să distrugă turnurile de comunicații, astfel încât operatorii să nu-i poată da comenzi care să îi interzică să distrugă ținte.

actualizat:Forțele aeriene americane au negat această informație, spunând că cuvintele colonelului au fost scoase din context. Serviciul nu a efectuat astfel de teste. Escadrila 96 de testare nu a comentat.