Nový najlepší priateľ: Ako nám VR a XR pomáhajú komunikovať s robotmi

Tretia vlna zariadení

XR technológie a okuliare, ktoré sa objavujú vo svete, sú treťou vlnou osobných

zariadení.Najprv boli počítače, potom mobilné telefóny, teraz sú to inteligentné okuliare. Prostredníctvom nich môžeme byť online, komunikovať s ľuďmi a dokonca komunikovať s robotmi. Takto vyzerá svet, keď s ním komunikujeme cez okuliare.

Náš svet v ňom je úplne obohatený o hologramy,prostredníctvom ktorých vizualizujeme udalosti a informácie. Tieto možnosti možno použiť na účely návrhu, napríklad keď potrebujete zobraziť 3D model v priestorovom svete. Prostredníctvom tohto systému môžete komunikovať s ľuďmi, vidieť ich hologram, počuť ich, sprostredkovať im pocity a emócie.

Prostredníctvom virtuálnej alebo zmiešanej reality môžetevytvárať nové objekty, navrhovať ich, vytvárať rozloženia v priestore na základe 2D výkresu. To všetko sa dá urobiť s okuliarmi Microsoft HoloLens alebo zariadeniami s podobnou technológiou.

Rozdiely medzi AR, MR a VR

XR je skratka pre rozšírenú realitu. Je rozdelená do troch kategórií: virtuálna realita, zmiešaná realita a rozšírená realita. 

V zmiešanej realite holografické objekty askutočný svet sa navzájom ovplyvňuje, je tu zmes virtuálnych a skutočných objektov. Vo virtuálnej realite je používateľ iba vo virtuálnom svete. V rozšírenej realite vidíme virtuálne predmety, hologramy, no necítime ich hĺbku. V zmiešanej realite používateľ vidí a cíti hĺbku, čo je vtedy, keď má hologram pocit, že je skutočný.

Najbližšie k reálnemu svetu – rozšírenéreality, ako kedysi populárna aplikácia Pokemon Go. Ak hovoríme o virtuálnej realite, tak tento rok vyšla hra Half-Life: Alyx, kedy je človek ponorený do virtuálneho sveta a interaguje tam s postavami. Zatiaľ neexistujú žiadne populárne hry v zmiešanej realite – aby ste sa ponorili do zmiešanej reality, potrebujete špeciálne zariadenie, napríklad Microsoft HoloLens.

Microsoft Hololens

Toto je celý notebook:má klasické moduly - batériu, procesory a špeciálne moduly, ako je optika, senzory na budovanie okolitého priestoru, analyzovanie gest a správania používateľa.

Tento proces si vyžaduje špeciálnu optikunemôžeme dať na každé oko len dva rovnaké displeje. Koniec koncov, ak používateľ dostane rovnaký obrázok, bude sa zdať, že objekt je v nekonečne kvôli stereo videniu. Microsoft HoloLens by s tým mal počítať a prispôsobiť obraz špecificky polohe okuliarov a dokonca už aj HoloLens majú špeciálne senzory, ktoré zisťujú polohu zrenice a upravujú hologramy podľa toho, kam sa pozeráme.

Na vyhodnotenie sú potrebné kamery v okuliarochokolitý svet, aby sa hologram dal umiestniť do hĺbky, za skutočný objekt. Na to sa používajú špeciálne senzory - sú to hĺbkové kamery, ktoré analyzujú priestor okolo nás a analyzujú jeho hĺbku.

Vesmírna analýza

Nechýba ani špeciálna kameraanalyzuje gestá používateľov – moderné okuliare Microsoft HoloLens dokážu rozpoznať ruky. To znamená, že môžete interagovať s hologramami – brať ich, presúvať ich.

Vesmírna analýza

Hlavnou funkciou kamier je analýza priestoruokolo. Používateľ musí pochopiť, kde sa nachádza stena, stôl, predmety v miestnosti. Hodnotia ich vybudovaním mriežky priestoru. Toto je geometria, kde môžete umiestniť hologram za stenu. Virtuálny objekt dokážeme skryť za skutočnú stenu, čím sa dosiahne pocit hĺbky a skutočnej prítomnosti hologramov.

Okuliare rozpoznávajú gestá, ale na čo slúžia?Na interakciu s hologramami – používatelia musia byť schopní na ne klikať, otáčať sa, presúvať, používatelia musia mať virtuálnu klávesnicu, ktorá zadáva text. Aj keď je to teraz veľmi nepohodlné - ukázalo sa, že stlačíte iba jedno tlačidlo za sekundu.

Používatelia sa preto musia znova učiťkomunikovať so svetom a rozhraním. Takéto zariadenie ešte nikto nemal, takže vývojári musia mať na pamäti, že musia byť intuitívne, podobne ako interakcie v reálnom svete. Všetko by sa malo stať presne tak, ako sa to zvyčajne stáva – používateľ by mal mať možnosť zobrať hrnček rovnakým spôsobom ako v bežnom živote. A to je dokonca priestor pre predstavivosť na vytvorenie novej mechaniky správania.

Kde môžete použiť zmiešanú realitu v reálnom živote

Ťažiskom moderných okuliarov je priemysel.Prečo nie bežný používateľ? Pretože takéto zariadenia sú drahé - asi 3,5 tisíc dolárov. Iba výroba v kritických situáciách môže ospravedlniť náklady na takéto zariadenie.

Prvé riešenie, ktoré je možné implementovať cezokuliare sú virtuálny asistent, jeho myšlienka je taká, že vo výrobe majú niektoré prevádzky návod na 100-150 montážnych krokov a technickú dokumentáciu, ktorej musíte do hĺbky porozumieť. A myšlienkou takýchto okuliarov je digitalizovať tento návod a zobraziť všetky tieto kroky vo forme hologramov.

Vyvinuli sme prototyp takéhoto riešenia prevýstava plynu v Petrohrade, kde bol v aplikácii implementovaný návod na tanker na skvapalnený zemný plyn. Zamestnanec vo forme hologramov, textu a zvuku počuje a vidí, čo potrebuje urobiť. Navyše je to aj dobrá platforma na učenie sa nielen počas technického procesu a takéto riešenie je možné urobiť na okuliaroch Microsoft HoloLens.

Ďalšou možnosťou je vzdialený asistent prispájame pracovníka v okuliaroch a vzdialeného experta. Odborník cez 2D rozhranie vidí, čo pracovník cez kameru pozoruje a môže mu cez audio a video niečo povedať, nakresliť mu náznaky v priestore. Je pripevnený v reálnom priestore a ak odborník obehol napríklad žeriav a povedal, že ho treba otočiť, zamestnanca to možno rozptýli, ale náznak nikam nezmizne.

Patria sem aj herné enginy – Unity Engine a Unreal Engine, ktoré slúžia na vývoj hier alebo aplikácií rozšírenej virtuálnej reality.

Interakcia s robotom

Robot je zariadenie, ktoré ovládaniekoľko stupňov voľnosti. Napríklad môže mať dva motory, ktoré možno pohybovať a koordinovať pomocou programov. V laboratóriu Innopolis University je takýchto zariadení veľa – dron, ktorý sa pri páde nerozbije, humanoidný a chodiaci robot, ktorý vyzerá ako človek. Existujú technické manipulátory, dajú sa použiť vo výrobe. S každým z týchto zariadení je možné interagovať.

čo je robot?

Ako to môžem spraviť?Prvým príkladom je virtuálna realita, simulátor VR pre priemyselné manipulátory. Môžete sa na ňom naučiť pracovať s robotom, pochopiť, ako zariadenie funguje, môžete ho naprogramovať tak, aby vykonal nejakú akciu a otestovať ho v simulácii.

Ďalšie riešenie na priesečníku VR technológií aRobotika je fyzický simulátor procesov. Napríklad zábavný letecký simulátor v kozmickej lodi, kde roboty simulujú let a VR okuliare poskytujú riešenie a obraz, ktorý zodpovedá určitej fáze letu. Proces sa tak stane pohlcujúcim a realistickejším.

Používa sa na to virtuálna realitateleoperácie – keď je tam nebezpečná výroba, nebezpečné prostredie, v ktorom je pre človeka ťažké byť. Zariadenia tam môžu fungovať, znižujú nebezpečenstvo pre človeka. Treba ich ale ovládať, robot dokáže vykonávať len bežné operácie a ak hovoríme o katastrofách alebo nebezpečnom prostredí, tak v tomto prípade potrebujeme ľudskú inteligenciu. Preto sú potrebné rozhrania diaľkového ovládania - jednou z možností bude VR.

Roboty môžu pomáhať pri nebezpečných operáciách

Aplikácia rozšírenej a zmiešanej realitynajviac zastúpené v programovaní robotov. Používateľ môže cez zariadenie vidieť stav robota, čo sa chystá urobiť. Na takéto riešenia sa zameriava rozšírená a zmiešaná realita. Keď je robot nainštalovaný a je potrebné ho nakonfigurovať na nejakú úlohu, slúži na to špeciálne diaľkové ovládanie, v ktorom je možné zariadenie presunúť na konkrétnu pozíciu, zapamätať si ho a posúvať ďalej. 

Ale keď je program úplne vytvorený, je to ťažképredstavte si, že sa stane nejaká nepredvídaná udalosť. Na tento účel sú vytvorené špeciálne rozhrania. Je to potrebné pre bezpečnosť aj pre efektívnejšiu interakciu.

Pomáha k tomu XR a zmiešaná realita.Tam si môžete nakonfigurovať virtuálny priestor, upraviť ho pre konkrétny experiment alebo zmeniť robota. Inžinieri majú neobmedzené možnosti konfigurácie, čo znižuje bezpečnostné riziká.

Konkrétne naše riešenie používa niekoľkovirtuálne objekty. Má menu na interakciu so systémom, cieľový bod, ktorý popisuje pozíciu, kam chceme, aby robot prišiel. Ďalej by tu mali byť virtuálne modely robota a jeho zariadení – chápadla alebo nástroja.

Po nastavení bodov môžeme bežaťsimulácia pohybu, aby ste skontrolovali, ako bude trajektória vykonaná. Bez nej môže dôjsť k poškodeniu robota alebo zariadenia a keď vidíme virtuálnu simuláciu, je to pre človeka bezpečné a vizuálne.

A keď s istotou pochopíme, že program je správny a sme si tým istí, môžeme začať pracovať skutočného robota a spustiť program, ktorý potrebujeme.

Ako komunikovať s robotom

Nižšie vidíte, ako prebieha interakciaprostredníctvom našej aplikácie. Tieto zábery boli urobené v laboratóriu a experimentálnej miestnosti. Spolupracujeme s dvoma typmi robotov: mobilným zariadením Platoon a priemyselným robotom Kuka IIWA. 

Používatelia nosia okuliare Microsoft Hololens,najprv analyzujú priestor a potom pomocou gest začne používateľ interagovať s robotmi, určí ich polohu, nastaví súradnice a kačice, aby sa zariadenia dali do pohybu.

Roboty sa pohybujú vo vesmíre pomocou súradníc

Pre mobilného robota stačí dať bodkuna podlahe je to 2D súradnica a pre manipulátor musíte nastaviť 3D súradnicu. Každý manipulátor má svoje požiadavky a po absolvovaní programu je možné zariadenia simulovať. A zároveň môžete okamžite jasne vidieť trajektórie, čo robot urobí - to sa nedá urobiť cez tablet alebo rozhranie bežného textového editora. Význam takéhoto systému je, že cez jedno rozhranie môžete interagovať s rôznymi typmi robotov.

Práve tieto multiplatformové technológie môžubyť zaujímavý pre ľudí, ktorí stále hľadajú to, čo ich zaujíma. V prípade prieniku XR a robotiky možno zaznamenať technológie ako počítačové videnie – okuliare aj robot majú špeciálne kamery na analýzu priestoru. Existujú aj algoritmy SLAM na zostavenie mapy, ovládače, sledovací systém na určovanie polohy zariadenia.

Čítaj viac

Porovnajte, ako zatmenie Mesiaca nafilmovali NASA a Roskosmos

„Piata sila“ vytvára neviditeľné „steny“ vo vesmíre. Hlavná vec o novej teórii fyzikov

Zverejnená mapa infekcie opičích kiahní