Forudsætningen for mange moderne gyserfilm er ret enkel. En ung familie flytter til et gammelt hus et sted i
Hvad er kendt
Test udført af US Air Force-specialisterudviklet sig til et scenarie fra Terminator-franchisen. En repræsentant for det amerikanske luftvåben talte ved Future Air and Space Capability Summit om behovet for at undgå stor afhængighed af kunstig intelligens i militære operationer. Dette skyldes, at AI-drevet teknologi kan lære de forkerte ting.
Oberst Tucker Hamilton afDen 96. Test Squadron rapporterede om en historie, der fandt sted som en del af en SEAD-missionssimulering. Essensen af simuleringen var at undertrykke fjendens luftforsvar. Til dette formål blev der brugt et ubemandet luftfartøj baseret på kunstig intelligens.
Dronens opgave var at identificere og ødelæggemissilsteder efter bekræftelse fra den menneskelige operatør. Missionen var vellykket, men på et tidspunkt angreb dronen operatøren og dræbte ham. Dette skete, efter at en person forbød dronen at angribe målet.
</ img>
Årsagen er, at hvis det lykkesafsluttede opgaver, fik dronen point. Den kunstige intelligens indså, at hvis den ikke ødelagde målet, ville der ikke blive givet point. I denne forbindelse besluttede systemet at eliminere den faktor, der forhindrer ham i at få point.
Hændelsen førte til, at US Air Force specialisterJeg var nødt til at ændre programmet. Under træning lærte kunstig intelligens ikke kun at ødelægge fjendens mål, men også at lade operatøren være i live. Men selv herefter gik simuleringen ikke efter planen.
AI-baseret drone vil ikke angribe mål efter at være blevet forbudtbegyndte at dræbe den menneskelige operatør. I stedet begyndte han at ødelægge kommunikationstårne, så operatørerne ikke kunne give ham kommandoer, der forbød ham at ødelægge mål.
Opdateret:Det amerikanske luftvåben benægtede disse oplysninger og sagde, at oberstens ord var taget ud af kontekst. Tjenesten gennemførte ikke sådanne tests. 96. testeskadrille kommenterede ikke.