Môže ležať drone?
— Témou vašej prednášky je „Prečo nútime roboty klamať“. Leží vo svojej klasike
— V našom prípade je lož, keď informácie ospôsob fungovania skutočného sveta nezodpovedá tomu, čo čítame a prenášame navonok. z akého dôvodu? Náš senzor je pokazený a naozaj to tak vidíme, alebo ho falšujeme kvôli falšovaniu, alebo z nejakého iného dôvodu. Keď komunikujeme, viem klamať. Pretože sa mýlim vo svojich záveroch alebo zle vidím. Nezáleží vám na tom, tieto informácie budú pre vás v každom prípade nepravdivé. Preto sme sa pozreli na spôsoby ovládania, vďaka ktorým je systém bezpečný.
- Keď hovoríte o robotoch a „multi-agentových systémoch“, máte na mysli vozidlá bez osôb?
- Nie, toto je len najobľúbenejšia destinácia. Teraz najobľúbenejšie témy sú bezpilotné letecké dopravné prostriedky.
- Skúšate riešenia problémov, ktoré sa môžu vyskytnúť?
- Máme dve úrovne. Na prvej úrovni sa pozeráme na to, aké informácie putujú vnútri dronu, pretože informácie zo senzorov sa stále spracovávajú pred tým, než sa dostanú do výpočtového zariadenia. Na druhej úrovni sa medzi robotmi vymieňajú informácie a testujeme ich. Pozeráme sa na to, ako súvisí so skutočným svetom.
- Drones sú teraz iní - vojenskí, civilní a iní. Sú to droni, ktorí si navzájom vymieňajú informácie - je to špecifická trieda?
- Nie, v skutočnosti sa môže každý vymeniť.Úprimne neviem o jedinom dronovom zariadení, ktoré by nezdieľalo informácie. Aj keď ovládate pomocou diaľkového ovládača, stále ho môžete získať. To je dôvod, prečo pracujeme na pomerne vysokej úrovni abstrakcie pomocou súkromných implementácií, ale vo všeobecnosti ide o pomerne všeobecné riešenia - generiká, ako sa hovorí.
- V uplynulom roku sme zaznamenali prípady, v ktorých dronyproblémy pre ľudí. Drony, ktoré môžu naraziť do lietadiel, dronov, ktoré blokovali dráhy. Je možné takýmto situáciám nejako zabrániť?
- Ak je ovládaný človekom, potom lenspôsobom - len to zaklopte. To znamená, prevziať kontrolu, urobiť z neho to, čo chceme, alebo len fyzicky zničiť. Ak bol dron zakúpený, spočiatku už zostavený niekým, a spravujeme ho podľa zvyklostí, potom môžete pôsobiť proti týmto štandardným algoritmom. Ale teraz na zostavenie drone je úloha pre základné univerzitné alebo stredné školy kurzy. Veľa manuálov, dielov je možné zakúpiť bez problémov, nie je to príliš drahé. Preto logika, ktorá bude vo vnútri týchto vlastných dronov, nemôže byť plne štandardizovaná.
- Povedali ste o zachytení kontroly. Čo je to možné, čo je na to potrebné?
- Ak vezmeme do úvahy niektoré zakúpenésystém, poznáme protokoly, na ktorých komunikuje. Teoreticky môžeme nahradiť ovládací panel. Ale to je taká netriviálna úloha. Z hľadiska inžinierstva a vedy sa to dá urobiť. V praxi je to veľmi zložitá technická úloha. Ale riešiteľné.
- Nikto nevie, ako to urobiť?
- Pokiaľ viem, nikto. V každom prípade takéto informácie nie sú verejne dostupné.
- Aké ďalšie problémy vidíte v blízkej budúcnosti, ak hovoríme o dronoch?
— Pre mňa ako ochrankára je hlavný problémže systém nebude fungovať tak, ako ľudia chcú. Nehovorím o „matici“, ale o tom, že niekde môže byť porušená logika a správanie systému. Chceme vidieť jeden výsledok, ale bude ďalší. Zhruba povedané, z týchto dronov chceme postaviť štadión. Hlavným problémom je, že tehla v základoch nebude umiestnená podľa potreby. To znamená, že štadión postavíme globálne, ale tieto malé odchýlky v rámci konštrukcie povedú k tomu, že sa celá konštrukcia zrúti.
- Ak naprogramujeme všetok softvér pre týchto bezpilotných lietadiel, z akého dôvodu môžu tieto tehly dať zle?
- Pozri, svet počítačov pozostáva z núl apo prvé, všetko je jasné. Položili sme túto logiku a dostali sme odpoveď. Fyzický svet pozostáva z radu hodnôt od nuly do jednej. To, čo si predstavujeme na výpočtovej úrovni, sa nemusí preniesť do reálneho sveta. Záblesk slnka, poryv vetra a tehla už nebola správne zarovnaná. To je úlohou nového vedného odboru – funkčnej bezpečnosti, odvodenej od informačnej bezpečnosti, kedy sa snažíme prispôsobiť pôsobeniu okolia a vyvinúť riešenie, ktoré nám umožní zostaviť tehlu bez ohľadu na vonkajšie faktory. A to je náročná úloha. Má riešenia, ale žiadne z nich úplne nezaručuje úspech.
- V masovom prístupe sa drony objavili už dávno. Myslíte si, že situácia bude aj naďalej rovnaká, že môžem ísť a kúpiť si sondu? Teraz považovaná za hračku, môže táto zmena?
- Nie som právnik, ale priateľským spôsobom by mal byťniektoré obmedzenia. Zo seriálu „kúpiť veľký drone bez akýchkoľvek dokumentov, licencií a iných vecí je zle“. Kúpiť hračku drone? Prečo nie, je nepravdepodobné, že by spôsobil veľa škôd. Tu opäť, príbeh je, že ak chcete, všetko môže byť zabalené v negatívnom svetle. Preto by som ja, osoba spojená s vedou, chcela, aby toto všetko bolo verejne dostupné. Ale človek, ktorý chodí po uliciach, by si želal nejaké rozumné obmedzenia. Je to rozumné.
Rojová inteligencia - v robotoch a ľuďoch
- Zapojili ste sa do predvídania správania ľudí.v núdzových situáciách a simulovali ho na základe tragédie v "The Lame Horse". Je jasné, ako môžete vytvoriť digitálny barový model. Ale ako môžete predpovedať správanie ľudí? Na základe akých údajov?
- Nie, v skutočnosti. Človek sa vo všeobecnosti správa veľmi spontánne, najmä v núdzových prípadoch. Ale máme hypotézu, ktorú sme testovali modelovaním situácie, ktorá nastala.
— Ako ste modelovali správanie ľudí? Vaše výsledky sa veľmi približovali realite.
- Ak hovoríme o logike, ktorá je tamje to takzvaná inteligencia roja. Spriemerovanie pohybu, výber podmienených vodcov, pohyb na východy a pod. Docela triviálny princíp. Všeobecne platí, že princíp akejkoľvek inteligencie - máme časticu, ktorá sa môže správať veľmi hlúpe, má veľmi banálne a jednoduché zásady. Nakoniec sa však tento efekt dosiahne, keď sa celý systém správa veľmi inteligentne.
- Teraz hovoríte výraznejšie, čo sa týka technológie. Ak hovoríme o ľuďoch, je to rovnaké?
- Robot je postavený na princípoch človeka. Ak vezmem systém od osoby a aplikujem ho na robota, potom aspoň môžem použiť systém z robota na osobu. V oblasti IT sú tieto pravidlá formulované veľmi dlho. Aspoň od roku 1986.
- V skutočnosti ste dokázali, že funguje na verejnosti?
- Áno, snažili sme sa a funguje to. Nie som sociológ a nie psychológ, ale zdá sa mi, že výsledok z hľadiska vedenia vedeckého experimentu sa ukázal byť pravdivý: človek v núdzových prípadoch klesá na skôr banálnu úroveň správania. A táto banálna úroveň môže byť kopírovaná z správania vtákov, podmienečne. V zásade to dopadlo.
„Radšej ma zabijú ako dieťa“: etika UAV
- Hovorili ste o etických otázkachUAV a dilema voľby, ak majú niekoho zabiť. Problém s vozíkom je v reálnom živote sotva možný. Ale vo všeobecnosti si myslíte, že musíte také veci naprogramovať? A môžu sa vyskytnúť v reálnom živote?
- Určite vzniknú v reálnom živote aak to neprogramujeme, čo sa potom stane? Pozrite, vyvinuli sme algoritmus, stroj funguje, všetko ide a potom sa stáva, že babička a dieťa vybehli z rôznych koncov cesty. Ak v tomto prípade neuvedieme logiku správania, potom by sme odmietli morálnu zodpovednosť za ňu. Myslím, že to je krok smerom k zbabelosti.
incut
„Ak do takejto situácie nepostavíme určitý model správania do bezpilotného systému, čo bude robiť?“
— Závisí to od systému. Možno sa pokúsi minimalizovať svoje riziká a podmienečne zostrelí toho, kto je bližšie.
- Hovoríte, že musíme všetko naprogramovať. Kto potom musí rozhodnúť, kto zostreliť?
- Zdá sa mi, že Massachusetts (MIT - „High-tech“) išiel správnou cestou - demokraciou.
Vedci z Massachusetts TechnologyInštitút (MIT) vytvoril hru, v ktorej si užívateľ môže vybrať medzi dvoma variantmi správania vozidla bez posádky v prípade etických dilem. Výsledkom bola celosvetová štúdia, na ktorej sa zúčastnili milióny ľudí v stovkách krajín. Ukázalo sa, že ľudia v rôznych krajinách majú rôzne predstavy o tom, ako by sa droni mali zaoberať etickými otázkami.
- Takže musíme hlasovať, kto by mal zostreliť dron?
- Nie naozaj. Musí existovať sociologická štúdia, ktorá nám umožní výber. Bude za to zodpovedné celé ľudstvo, nielen jeden programátor.
- Myslíte si, že to bude fungovať, ľudia to prijmú?
- To ešte spôsobí nespokojnosť, pretoževeľké množstvo ľudí dostalo na výber a niekto s tým prirodzene nesúhlasí. Ale ak nie je na výber a namiesto toho existuje autoritárske rozhodnutie, potom to nie je úplne spravodlivé.