AI-drönare attackerade och dödade operatören på grund av förbudet att attackera målet under simuleringen

Utgångspunkten för många moderna skräckfilmer är ganska enkel. En ung familj flyttar till ett gammalt hus någonstans i

skog, och paranormala saker börjar hända därsaker. Det verkar som att handlingen i sådana filmer nu inte kommer att fokusera på spöken, utan på artificiell intelligens. En incident som inträffade under ett av amerikanska flygvapnets experiment bekräftar bara detta.

Vad är känt

Test utfört av US Air Force-specialisterutvecklats till ett scenario från Terminator-serien. En representant för det amerikanska flygvapnet talade vid Future Air and Space Capability Summit om behovet av att undvika stort beroende av artificiell intelligens i militära operationer. Detta beror på att AI-driven teknik kan lära sig fel saker.

Överste Tucker Hamilton avDen 96:e testskvadronen rapporterade om en historia som inträffade som en del av en SEAD-uppdragssimulering. Kärnan i simuleringen var att undertrycka fiendens luftförsvar. För detta ändamål användes ett obemannat flygfarkost baserat på artificiell intelligens.

Drönarens uppgift var att identifiera och förstöramissilplatser efter bekräftelse från den mänskliga operatören. Uppdraget lyckades, men vid något tillfälle attackerade drönaren operatören och dödade honom. Detta skedde efter att en person förbjudit drönaren att attackera målet.

</ img>

Anledningen är att om det lyckasnär han slutförde uppgifter fick drönaren poäng. Den artificiella intelligensen insåg att om den inte förstörde målet så skulle inga poäng delas ut. I detta avseende beslutade systemet att eliminera den faktor som hindrar honom från att få poäng.

Händelsen ledde till att US Air Force specialisterJag var tvungen att ändra programmet. Under träningen lärde sig artificiell intelligens inte bara att förstöra fiendens mål, utan också att lämna operatören vid liv. Men även efter detta gick inte simuleringen enligt plan.

AI-baserad drönare kommer inte att attackera mål efter att ha blivit förbjudenbörjade döda den mänskliga operatören. Istället började han förstöra kommunikationstorn så att operatörerna inte kunde ge honom kommandon som förbjöd honom att förstöra mål.

Uppdaterad:Det amerikanska flygvapnet förnekade denna information och sa att överstens ord togs ur sitt sammanhang. Tjänsten genomförde inte sådana tester. 96:e testskvadronen kommenterade inte.