Novi najbolji prijatelj: Kako nam VR i XR pomažu u komunikaciji s robotima

Treći val uređaja

XR tehnologije i naočale koje se pojavljuju u svijetu treći su val osobnih

uređaja.Prvo su bila računala, zatim mobiteli, sada su tu pametne naočale. Preko njih možemo ići na internet, komunicirati s ljudima, pa čak i komunicirati s robotima. Ovako izgleda svijet kada s njim komuniciramo kroz naočale.

Naš svijet u njemu potpuno je obogaćen hologramima,kroz koje vizualiziramo događaje i informacije. Ove značajke mogu se koristiti u svrhe dizajna, kao što je kada želite vidjeti 3D model u prostornom svijetu. Kroz ovaj sustav možete komunicirati s ljudima, vidjeti njihov hologram, čuti ih, prenijeti im osjećaje i emocije.

Možete putem virtualne ili mješovite stvarnostistvarati nove objekte, dizajnirati ih, kreirati rasporede u prostoru na temelju 2D crteža. Sve se to može učiniti s Microsoft HoloLens naočalama ili uređajima sa sličnom tehnologijom.

Razlike između AR, MR i VR

XR je skraćenica za proširenu stvarnost. Podijeljen je u tri kategorije: virtualna stvarnost, mješovita stvarnost i proširena stvarnost. 

U mješovitoj stvarnosti, holografski objekti istvarni svijet međusobno komuniciraju, postoji mješavina virtualnih i stvarnih objekata. U virtualnoj stvarnosti korisnik je samo u virtualnom svijetu. U proširenoj stvarnosti vidimo virtualne objekte, holograme, ali ne osjećamo njihovu dubinu. U mješovitoj stvarnosti, korisnik vidi i osjeća dubinu, kada se hologram osjeća kao stvaran.

Najbliže stvarnom svijetu - proširenostvarnosti, poput nekad popularne aplikacije Pokemon Go. Ako govorimo o virtualnoj stvarnosti, onda je ove godine objavljena igra Half-Life: Alyx, kada je osoba uronjena u virtualni svijet i tamo komunicira s likovima. Još nema popularnih igara u mješovitoj stvarnosti - da biste se uronili u miješanu stvarnost, potreban vam je poseban uređaj, na primjer, Microsoft HoloLens.

Microsoft Hololens

Ovo je cijeli laptop:ima klasične module - bateriju, procesore i posebne module, poput optike, senzora za izgradnju okolnog prostora, analizu gesta i ponašanja korisnika.

Ovaj proces zahtijeva posebnu optiku, mine možemo samo staviti dva identična zaslona na svako oko. Uostalom, ako korisnik dobije istu sliku, tada će se činiti da je objekt u beskonačnosti zbog stereo vizije. Microsoft HoloLens bi to trebao uzeti u obzir i prilagoditi sliku konkretno položaju naočala, a čak i HoloLens sada imaju posebne senzore koji detektiraju položaj zjenice i prilagođavaju holograme, ovisno o tome gdje gledamo.

Za procjenu su potrebne kamere u naočalamaokolnog svijeta tako da se hologram može postaviti u dubinu, iza stvarnog objekta. Za to se koriste posebni senzori - to su dubinske kamere koje analiziraju prostor oko nas i analiziraju njegovu dubinu.

Analiza prostora

Tu je i namjenska kameraanalizira geste korisnika - moderne Microsoftove naočale HoloLens mogu detektirati ruke. To znači da možete komunicirati s hologramima - uzeti ih, premjestiti ih.

Analiza prostora

Glavna funkcija kamera je analiza prostoraoko. Korisnik mora razumjeti gdje se nalazi zid, stol, predmeti u prostoriji. Ocjenjuju ih izgradnjom mreže prostora. Ovo je geometrija oko koje možete staviti hologram iza zida. Virtualni objekt možemo sakriti iza stvarnog zida, čime se postiže osjećaj dubine i stvarne prisutnosti holograma.

Naočale otkrivaju geste, ali čemu služe?Za interakciju s hologramima – korisnici moraju moći kliknuti na njih, rotirati, pomicati, korisnici moraju imati virtualnu tipkovnicu koja upisuje tekst. Iako je sada vrlo nezgodno - ispada da pritisnete samo jednu tipku u sekundi.

Stoga korisnici moraju ponovno učitikomunicirati sa svijetom i sučeljem. Nitko prije nije imao ovakav uređaj, stoga programeri moraju imati na umu da moraju biti intuitivni, slični interakcijama u stvarnom svijetu. Sve bi se trebalo dogoditi potpuno isto kao što se obično događa - korisnik bi trebao moći podići šalicu na isti način kao u normalnom životu. A to je čak i prostor za maštu za stvaranje novih mehanizama ponašanja.

Gdje možete primijeniti miješanu stvarnost u stvarnom životu

Fokus modernih naočala je industrija.Zašto ne običan korisnik? Budući da su takvi uređaji skupi - oko 3,5 tisuća dolara. Samo proizvodnja u kritičnim situacijama može opravdati trošak takvog uređaja.

Prvo rješenje koje se može implementirati kroznaočale je virtualni pomoćnik, njegova ideja je da u proizvodnji neke operacije imaju upute od 100-150 koraka montaže i tehničku dokumentaciju koju morate duboko razumjeti. A ideja takvih naočala je digitalizirati ovu instrukciju i prikazati sve ove korake u obliku holograma.

Razvili smo prototip takvog rješenja zaizložbu plina u St. Petersburgu, gdje je u aplikaciju implementirana instrukcija za tanker za ukapljeni prirodni plin. Zaposlenik u obliku holograma, teksta i zvuka čuje i vidi što treba učiniti. Štoviše, to je i dobra platforma za učenje ne samo tijekom tehničkog procesa, a takvo se rješenje može napraviti i na Microsoft HoloLens naočalama.

Druga opcija je daljinski pomoćnik kadapovezujemo radnika koji nosi naočale i stručnjaka na daljinu. Stručnjak kroz 2D sučelje vidi ono što radnik promatra kroz kameru i može mu nešto reći kroz audio i video, nacrtati mu naznake u prostoru. Pričvršćen je u stvarnom prostoru, a ako je stručnjak zaokružio, na primjer, dizalicu i rekao da je treba okrenuti, zaposlenik može biti ometen, ali nagovještaj neće nikuda nestati.

To također uključuje motore za igre – Unity Engine i Unreal Engine, koji se koriste za razvoj igara ili aplikacija proširene virtualne stvarnosti.

Interakcije s robotom

Robot je uređaj kojim se upravljanekoliko stupnjeva slobode. Na primjer, može imati dva motora koja se mogu pomicati i koordinirati pomoću programa. U laboratoriju Sveučilišta Innopolis postoji mnogo takvih uređaja – dron koji se ne lomi pri padu, humanoidni i hodajući robot sličan osobi. Postoje tehnički manipulatori, mogu se koristiti u proizvodnji. Svaki od ovih uređaja može biti u interakciji.

Što je robot?

Kako to mogu učiniti?Prvi primjer je virtualna stvarnost, VR simulator za industrijske manipulatore. Na njemu možete naučiti kako raditi s robotom, razumjeti kako uređaj radi, možete ga programirati da izvrši neku radnju i testirati ga u simulaciji.

Sljedeće rješenje na raskrižju VR tehnologija iRobotika je simulator fizičkog procesa. Primjerice, zabavni simulator leta u letjelici, gdje roboti simuliraju let, a VR naočale daju rješenje i sliku koja odgovara određenoj fazi leta. Tako proces postaje impresivan i realističniji.

Virtualna stvarnost se koristi zateleoperacije - kada postoji opasna proizvodnja, nesigurno okruženje u kojem se čovjeku teško nalazi. Tu mogu raditi uređaji, smanjuju opasnost za ljude. Ali ih treba kontrolirati, robot može obavljati samo rutinske operacije, a ako govorimo o katastrofama ili nesigurnom okruženju, onda nam je u ovom slučaju potrebna ljudska inteligencija. Stoga su potrebna sučelja za daljinsko upravljanje – VR će biti jedna od opcija za to.

Roboti mogu pomoći tijekom opasnih operacija

Primjena proširene i mješovite stvarnostinajzastupljeniji u programiranju robota. Korisnik može kroz uređaj vidjeti stanje robota, što će učiniti. Proširena i mješovita stvarnost fokusirana je na takva rješenja. Kada je robot instaliran i treba ga konfigurirati za neki zadatak, za to se koristi poseban daljinski upravljač u kojem se uređaj može pomaknuti na određenu poziciju, memorirati i pomicati dalje. 

Ali kada je program u potpunosti kreiran, teško jezamislite hoće li se dogoditi neki nepredviđeni incident. Za to se stvaraju posebna sučelja. To je neophodno i za sigurnost i za učinkovitiju interakciju.

XR i mješovita stvarnost pomažu u tome.Tamo možete konfigurirati virtualni prostor, prilagoditi ga za određeni eksperiment ili promijeniti robota. Inženjeri imaju neograničene mogućnosti konfiguracije, a to smanjuje sigurnosne rizike.

Točnije, naše rješenje koristi nekolikovirtualni objekti. Ima izbornik za interakciju sa sustavom, ciljnu točku koja opisuje poziciju na koju želimo da robot dođe. Zatim bi trebali biti virtualni modeli robota i njegovih uređaja—hvataljka ili alat.

Nakon što postavimo svoje točke, možemo trčatisimulacija kretanja kako bi se provjerilo kako će se putanja izvesti. Bez toga se robot ili oprema mogu oštetiti, a kada vidimo virtualnu simulaciju, ona je sigurna i vizualna za osobu.

A nakon što sa sigurnošću shvatimo da je program ispravan i sigurni smo u to, možemo započeti s radom pravog robota i izvršiti program koji nam je potreban.

Kako komunicirati s robotom

Ispod možete vidjeti kako dolazi do interakcijekroz našu aplikaciju. Ove snimke su snimljene u laboratoriju i eksperimentalnoj sobi. Interagiramo s dvije vrste robota: mobilnim uređajem Platoon i industrijskim robotom Kuka IIWA. 

Korisnici nose naočale Microsoft Hololens,prvo analiziraju prostor, a zatim uz pomoć gesta korisnik započinje interakciju s robotima, određuje njihov položaj, postavlja koordinate i patke kako bi se uređaji počeli kretati.

Roboti se kreću u prostoru koristeći koordinate

Za mobilnog robota dovoljno je staviti točkuna podu, ovo je 2D koordinate, a za manipulator trebate postaviti 3D koordinate. Svaki manipulator ima svoje zahtjeve, a nakon prolaska programa, uređaji se mogu simulirati. A u isto vrijeme, možete odmah jasno vidjeti putanje, što će robot učiniti - to se ne može učiniti putem tableta ili običnog sučelja za uređivač teksta. Smisao takvog sustava je da putem jednog sučelja možete komunicirati s različitim vrstama robota.

Upravo te cross-platform tehnologije mogubiti zanimljiv ljudima koji su još uvijek u potrazi za onim što ih zanima. U slučaju raskrižja XR-a i robotike mogu se uočiti tehnologije poput računalnog vida – i naočale i robot imaju posebne kamere za analizu prostora. Tu su i SLAM algoritmi za izradu karte, kontroleri, sustav praćenja za pozicioniranje uređaja.

Čitaj više

Usporedite kako su pomrčinu Mjeseca snimili NASA i Roscosmos

“Peta sila” stvara nevidljive “zidove” u svemiru. Glavna stvar o novoj teoriji fizičara

Objavljena karta zaraze majmunskim boginjama