Kan en drone lyve?
— Temaet for foredraget ditt er «Hvorfor tvinger vi roboter til å lyve». Ligger i sin klassiker
— I vårt tilfelle er løgn når opplysninger ommåten den virkelige verden fungerer på samsvarer ikke med det vi leser og overfører på utsiden. Av hvilken grunn? Sensoren vår er ødelagt og vi ser det virkelig på den måten, eller vi forfalsker den for forfalskning eller av en annen grunn. Når vi kommuniserer, kan jeg lyve. Fordi jeg tar feil i mine konklusjoner eller ser dårlig. Det spiller ingen rolle for deg, denne informasjonen vil uansett være falsk for deg. Derfor har vi sett på kontrollmetoder som gjør systemet trygt.
- Når du snakker om roboter og "multi-agent systemer", mener du ubemannede biler?
- Nei, dette er bare den mest populære destinasjonen. Nå er de mest populære emnene ubemannede luftfartøyer.
- Tester du løsninger på problemer som kan oppstå?
- Vi har to nivåer. På første nivå ser vi på hvilken informasjon som kjøres inne i dronen, fordi informasjonen fra sensorene fremdeles behandles før den når databehandlingsenheten. På andre nivå utveksles informasjon mellom dronene, og vi tester det også. Vi ser på hvordan det handler om den virkelige verden.
- Droner er nå forskjellige - militære, sivile og andre. Er droner som utveksler informasjon med hverandre på denne måten - er dette en bestemt klasse?
– Nei, faktisk kan alle bytte.Jeg vet ærlig talt ikke om en eneste droneenhet som ikke deler informasjon. Selv når du kontrollerer med fjernkontrollen, kan du fortsatt få den. Det er derfor vi jobber på et ganske høyt abstraksjonsnivå ved å bruke private implementeringer, men generelt er dette ganske generelle løsninger - generiske, som de sier.
- I løpet av det siste året har vi sett tilfeller der dronerskapte problemer for folk. Droner som kan krasje i fly, droner som blokkerte rullebanene. Er det mulig å forhindre slike situasjoner på en eller annen måte?
- Hvis den er kontrollert av mannen, så er den enestemåte - bare slå den ned. Det vil si å ta kontroll, få ham til å gjøre det vi ønsker, eller bare fysisk ødelegge. Hvis dronen ble kjøpt, i utgangspunktet allerede satt sammen av noen, og vi klarer det ved egendefinert, så kan du motvirke, å vite disse standardalgoritmer. Men nå å montere en drone er en oppgave for elementære universitet eller videregående kurs. Mange manualer, deler kan kjøpes uten problemer, det er ikke veldig dyrt. Derfor er logikken som vil være inne i egne droner ikke fullt ut standardisert.
- Du sa om avskjerming av kontroll. Så langt som mulig, hva kreves for dette?
- Hvis vi vurderer noen kjøptsystem, vi kjenner protokollene som det kommuniserer med. I teorien kan vi erstatte kontrollpanelet. Men dette er en ikke-triviell oppgave. Fra teknisk og vitenskapelig synsvinkel kan dette gjøres. I praksis er dette en svært vanskelig ingeniøroppgave. Men oppløselig.
- Nå vet ingen hvordan å gjøre dette?
- Så vidt jeg vet, ingen. I alle fall er slik informasjon ikke offentlig tilgjengelig.
- Hvilke andre problemer ser du som kan oppstå i nær fremtid, hvis vi snakker om droner?
— For meg som vekter er hovedproblemetat systemet ikke vil fungere slik folk ønsker. Jeg snakker ikke om "matrisen", men om det faktum at logikken og oppførselen til systemet et sted kan bli krenket. Vi ønsker å se ett resultat, men det kommer et annet. Grovt sett ønsker vi å bygge et stadion av disse dronene. Hovedproblemet er at mursteinen i fundamentet ikke blir plassert etter behov. Det vil si at vi skal bygge et stadion globalt, men disse små avvikene innenfor strukturen vil føre til at hele strukturen kollapser.
- Hvis vi programmerer all programvare for disse dronene, av hvilken grunn kan de sette disse mursteinene feil?
– Se, datamaskinens verden består av nuller ogen, alt er klart. Vi la ut denne logikken og fikk svar. Den fysiske verden består av en rekke verdier fra null til én. Det vi ser for oss på beregningsnivå kan kanskje ikke oversettes til den virkelige verden. Et glimt av solen, et vindkast og mursteinen var ikke lenger justert riktig. Dette er oppgaven til en ny gren av vitenskapen - funksjonell sikkerhet, avledet fra informasjonssikkerhet, når vi prøver å tilpasse oss handlingene til miljøet og utvikle en løsning som vil tillate oss å sette sammen en murstein uavhengig av eksterne faktorer. Og dette er en vanskelig oppgave. Den har løsninger, men ingen av dem garanterer helt suksess.
- I massetilgangen viste droner seg ikke så lenge siden. Tror du situasjonen vil fortsette å være den samme, at jeg kan gå og kjøpe en drone? Nå betraktes som et leketøy, kan dette forandres?
- Jeg er ikke en advokat, men på en minnelig måte, bør det væreintroduserte noen restriksjoner. Fra serien "å kjøpe en stor drone uten dokumenter, er lisenser og andre ting feil". Kjøp en leketøy drone? Hvorfor ikke, han er usannsynlig å forårsake mye skade. Her igjen er historien at alt kan bli pakket inn i et negativt lys hvis du ønsker det. Derfor, jeg, en person tilknyttet vitenskap, vil at dette skal være offentlig tilgjengelig. Men en person som går i gatene vil ha noen rimelige begrensninger som skal pålegges. Det er rimelig.
Swarm intelligence - i roboter og mennesker
- Du var involvert i å forutsi folks oppførsel.i nødssituasjoner og simulert det på grunnlag av tragedien i "The Lame Horse". Det er klart hvordan du kan lage en digital bar modell. Men hvordan kan du forutsi folks oppførsel? Basert på hvilke data?
- Nei, faktisk. Mannen virker generelt ganske spontant, spesielt i nødstilfeller. Men vi har en hypotese, som vi testet ved modellering på situasjonen som skjedde.
– Hvordan modellerte du folks oppførsel? Resultatene dine var ekstremt nær virkeligheten.
- Hvis vi snakker om logikken som er derpantsert, dette er den såkalte swarm intelligence. Bevegelsesverdi, utvalg av betingede ledere, bevegelse til utganger og så videre. Ganske trivielt prinsipp. Generelt, prinsippet om intelligens - vi har en partikkel som kan oppføre seg veldig dumt, den har veldig banale og enkle prinsipper. Men til slutt blir effekten oppnådd når hele systemet oppfører seg ekstremt intelligent.
- Du snakker nå mer som gjelder for teknologi. Hvis vi snakker om folk, er det det samme?
- Roboten er bygget på menneskets prinsipper. Hvis jeg tar et system fra en person og bruker den til en robot, så kan jeg i det minste bruke systemet fra en robot til en person. På IT-området er disse reglene formulert i svært lang tid. I hvert fall siden 1986.
- Faktisk har du bevist at det fungerer offentlig?
- Ja, vi prøvde, og det virker. Jeg er ikke en sosiolog og ikke en psykolog, men det ser ut til at resultatet fra synspunktet om å utføre et vitenskapelig eksperiment viste seg å være sant: En person i nødstilfeller faller til et ganske banalt oppførselsnivå. Og dette banale nivået kan kopieres fra oppførsel av fugler, betinget. I prinsippet viste det seg.
"Jeg vil bedre få meg drept enn et barn": UAVs etikk
- Du snakket om etiske problemerUAV og dilemmaet til valg hvis de må drepe noen. Problemet med vognen er neppe mulig i det virkelige liv. Men generelt, tror du at du må programmere slike ting? Og kan de oppstå i virkeligheten?
- De vil definitivt oppstå i det virkelige liv, oghvis vi ikke programmerer det, hva skjer da? Se, vi har utviklet en algoritme, maskinen fungerer, alt går, og så skjer det at bestemor og barn løp ut fra forskjellige ender av veien. Hvis vi ikke legger ned adferdslogikken i dette tilfellet, ville vi, som det, frasige moralsk ansvar for det. Dette er et skritt mot feighet, tror jeg.
incut
"Hvis vi ikke legger en viss oppførselsmodell i et ubemannet system i en slik situasjon, hva vil det gjøre?"
— Det kommer an på systemet. Kanskje han vil prøve å minimere risikoen og, betinget, skyte ned den som er nærmere.
- Du sier at vi må programmere alt. Hvem må da bestemme hvem som skal skyte ned?
- Jeg synes at Massachusetts (MIT - "High-tech") gikk på den riktige veien - demokrati.
Forskere fra Massachusetts TechnologyInstitute (MIT) laget et spill hvor brukeren er invitert til å velge mellom to varianter av oppførsel av et ubemannet kjøretøy når det gjelder etiske dilemmaer. Resultatet var en global studie hvor millioner av mennesker deltok i hundrevis av land. Det viste seg at folk i forskjellige land har forskjellige ideer om hvordan droner skal håndtere etiske problemstillinger.
- Så vi må stemme, hvem skal skyte ned en drone?
- Ikke egentlig. Det må være en sosiologisk studie som gjør at vi kan ta et valg. Hele menneskeheten vil være ansvarlig for det, ikke bare én programmerer.
- Tror du at dette vil fungere, vil folk akseptere det?
– Dette vil likevel skape misnøye, pgaet stort antall mennesker fikk et valg, og noen vil naturligvis være uenige i det. Men hvis det ikke er noe valg i det hele tatt, og det i stedet blir en autoritær beslutning, så er ikke dette helt rettferdig.