Kan en drone ligga?
— Ämnet för din föreläsning är "Varför tvingar vi robotar att ljuga." Ligger i sin klassiker
— I vårt fall är en lögn när information omhur den verkliga världen fungerar stämmer inte överens med vad vi läser och sänder på utsidan. Av vilken anledning? Vår sensor är trasig och vi ser det verkligen så, eller så förfalskar vi den för förfalskningens skull, eller av någon annan anledning. När vi kommunicerar kan jag ljuga. För att jag har fel i mina slutsatser eller ser dåligt. Det spelar ingen roll för dig, denna information kommer att vara falsk för dig i alla fall. Därför tittade vi på styrmetoder som gör systemet säkert.
- När du pratar om robotar och "multi-agent-system" menar du obemannade fordon?
- Nej, det här är bara den mest populära destinationen. Nu är de mest populära ämnena obemannade flygbilar.
- Testar du lösningar på problem som kan uppstå?
- Vi har två nivåer. På första nivån ser vi på vilken information som reser inuti dronen, eftersom informationen från sensorerna fortfarande bearbetas innan den når beräkningsenheten. På andra nivån utbyts information mellan dronorna, och vi testar det också. Vi tittar på hur det rör den verkliga världen.
- Droner är nu olika - militära, civila och andra. Är droner som utbyter information med varandra på detta sätt - är det en särskild klass?
– Nej, faktiskt, alla kan byta.Jag känner ärligt talat inte till en enda drönare som inte delar information. Även när du styr med fjärrkontrollen kan du fortfarande få den. Det är därför vi arbetar på en ganska hög abstraktionsnivå med hjälp av privata implementeringar, men i allmänhet är det ganska generella lösningar - generiska, som man säger.
- Under det senaste året har vi sett fall där dronorskapade problem för människor. Droner som kan krascha in i plan, dronor som blockerar banorna. Är det möjligt att på något sätt förhindra sådana situationer?
- Om den kontrolleras av mannen, då är den endasätt - bara slå ner det. Det vill säga att ta kontroll, få honom att göra vad vi vill, eller bara fysiskt förstöra. Om dronen köptes, ursprungligen redan sammansatt av någon, och vi klarar av det med anpassade, då kan du motverka, känna till dessa standardalgoritmer. Men nu för att montera en drone är en uppgift för grundskolan eller gymnasiet. Många handböcker, delar kan köpas utan problem, det är inte så dyrt. Därför kan logiken som finns i egna dronor inte helt standardiseras.
- Du sa om avlyssningen av kontrollen. Vad så är möjligt, vad krävs för detta?
- Om vi betraktar några inköptasystemet, vi känner till de protokoll som det kommunicerar med. I teorin kan vi ersätta kontrollpanelen. Men det här är en sådan trivial uppgift. Med tanke på teknik och vetenskap kan detta göras. I praktiken är det här en mycket svår teknisk uppgift. Men lösbar.
- Nu vet ingen hur man gör det här?
- Såvitt jag vet, ingen. Under alla omständigheter är sådan information inte tillgänglig för allmänheten.
- Vilka andra problem ser du som kan uppstå inom en snar framtid, om vi pratar om dronor?
— För mig som ordningsvakt är det största problemetatt systemet inte kommer att fungera som folk vill. Jag pratar inte om "matrisen", utan om det faktum att någonstans systemets logik och beteende kan kränkas. Vi vill se ett resultat, men det kommer ett annat. Grovt sett vill vi bygga en stadion av dessa drönare. Huvudproblemet är att tegelstenen i grunden inte kommer att placeras efter behov. Det vill säga att vi kommer att bygga en stadion globalt, men dessa små avvikelser inom strukturen kommer att leda till att hela strukturen kollapsar.
- Om vi programmerar all programvara för dessa dronor, av vilken anledning kan de ställa dessa tegelstenar fel?
– Titta, datorernas värld består av nollor ochen, allt är klart. Vi lade upp denna logik och fick svar. Den fysiska världen består av ett intervall av värden från noll till ett. Det vi föreställer oss på beräkningsnivå kanske inte översätts till den verkliga världen. Ett sken av solen, en vindpust och tegelstenen var inte längre inriktad korrekt. Detta är uppgiften för en ny gren av vetenskapen - funktionell säkerhet, härledd från informationssäkerhet, när vi försöker anpassa oss till miljöns handlingar och utveckla en lösning som gör att vi kan montera en tegelsten oavsett yttre faktorer. Och det här är en svår uppgift. Den har lösningar, men ingen av dem garanterar helt framgång.
- I masstillträdet såg dronor inte så länge sedan. Tycker du att situationen kommer att fortsätta att vara densamma, att jag kan gå och köpa en drone? Nu anses en leksak, kan detta förändras?
- Jag är inte advokat, men på ett vänskapligt sätt borde det varainförde några begränsningar. Från serien "att köpa en stor drone utan några dokument, är licenser och andra saker fel". Köp en leksak drone? Varför inte är det osannolikt att han orsakar mycket skada. Här är historien att om allt du vill kan allt vara omslagen i ett negativt ljus. Därför vill jag, en person som är associerad med vetenskap, tycka att detta är allmänt tillgängligt. Men en person som går på gatorna vill ha några rimliga begränsningar att införa. Det är rimligt.
Svärm intelligens - i robotar och människor
- Du var inblandad i att förutsäga människors beteende.i nödsituationer och simulerade den på grund av tragedin i "The Lame Horse". Det är klart hur man kan skapa en digital bar modell. Men hur kan man förutsäga människors beteende? Baserat på vilka data?
- Nej, faktiskt. Människan uppträder vanligtvis ganska spontant, särskilt i nödfall. Men vi har en hypotes, som vi testat genom modellering om situationen som inträffade.
– Hur modellerade du människors beteende? Dina resultat var extremt nära verkligheten.
- Om vi pratar om logiken som finns därpantsats, det här är den så kallade swarm intelligence. Rörelseregler, val av villkorade ledare, rörelse till utgångar och så vidare. En ganska trivial princip. I allmänhet principen om intelligens - vi har en partikel som kan verka väldigt dum, den har mycket banala och enkla principer. Men i slutändan erhålls effekten när hela systemet uppträder extremt intelligent.
- Du talar nu i termer som är mer tillämpliga på teknik. Om vi pratar om människor, är det detsamma?
- Roboten är byggd på människans principer. Om jag tar ett system från en person och tillämpar den på en robot, så kan jag åtminstone använda systemet från en robot till en person. På IT-området formuleras dessa regler under en mycket lång tid. Åtminstone sedan 1986
- I själva verket visade du att det fungerar offentligt?
- Ja, vi försökte, och det fungerar. Jag är inte en sociolog och inte en psykolog, men jag ser ut att resultatet ur ett visst vetenskapligt experiment visade sig vara sant: en person i nödfall faller till en ganska banal nivå av beteende. Och den här banala nivån kan kopieras från fåglarnas beteende, villkorligt. I princip visade det sig.
"Jag skulle bättre få mig dödad än ett barn": UAVs etik
- Du pratade om etiska problemUAV och valet dilemma om de måste döda någon. Problemet med vagnen är knappast möjligt i det verkliga livet. Men i allmänhet tror du att du måste programmera sådana saker? Och kan de förekomma i det verkliga livet?
- De kommer definitivt att uppstå i det verkliga livet, ochom vi inte programmerar det, vad händer då? Titta, vi har utvecklat en algoritm, maskinen fungerar, allt går, och då händer det att mormor och barn sprang ut från olika ändar av vägen. Om vi inte lägger upp beteendet i detta fall skulle vi, som det var, göra sig av med moraliskt ansvar för det. Detta är ett steg mot feghet, tror jag.
incut
"Om vi inte gör en viss modell av beteende i ett obemannat system i en sådan situation, vad kommer det att göra?"
– Det beror på systemet. Kanske kommer han att försöka minimera sina risker och villkorligt skjuta ner den som är närmare.
- Du säger att vi måste programmera allt. Vem måste då bestämma vem som ska skjuta ner?
- Jag tycker att Massachusetts (MIT - "High-tech") gick på rätt sätt - demokrati.
Forskare från Massachusetts TechnologyInstitute (MIT) gjorde ett spel där användaren uppmanas att välja mellan två varianter av ett obemannat fordons beteende vid etiska dilemman. Resultatet var en global studie där miljontals människor deltog i hundratals länder. Det visade sig att människor i olika länder har olika idéer om hur droner ska hantera etiska problem.
- Så vi måste rösta, vem ska skjuta ner en drone?
- Inte riktigt. Det måste finnas en sociologisk studie som gör att vi kan göra ett val. Hela mänskligheten kommer att vara ansvarig för det, inte bara en programmerare.
- Tror du att detta kommer att fungera, kommer folk att acceptera det?
– Det här kommer ändå att orsaka missnöje, eftersomett stort antal personer fick ett val, och någon kommer naturligtvis inte att hålla med om det. Men om det inte finns något val alls, och istället ett auktoritärt beslut, så är detta inte helt rättvist.