Poate o minciună?
— Subiectul prelegerii dumneavoastră este „De ce forțăm roboții să mintă”. Se află în clasicul său
— În cazul nostru, o minciună este atunci când informații despremodul în care funcționează lumea reală nu corespunde cu ceea ce citim și transmitem în exterior. Pentru ce motiv? Senzorul nostru este stricat și îl vedem într-adevăr așa, sau îl falsificăm de dragul falsificării sau din alt motiv. Când comunicăm, pot minți. Pentru că mă înșel în concluziile mele sau văd prost. Nu contează pentru tine, aceste informații vor fi false pentru tine în orice caz. De aceea ne-am uitat la metodele de control care fac sistemul sigur.
- Când vorbești despre roboți și despre "sisteme multi-agent", vrei să spui vehicule fără pilot?
- Nu, aceasta este doar cea mai populară destinație. În prezent, cele mai populare subiecte sunt vehiculele aeriene fără pilot.
- Testezi soluții la probleme care ar putea apărea?
- Avem două nivele. La primul nivel, ne uităm la ce informații călătoresc în interiorul dronului, deoarece informațiile de la senzori sunt încă procesate înainte de a ajunge la dispozitivul de calcul. La cel de-al doilea nivel, informația este schimbată între cadre, iar noi o testăm și ea. Ne uităm la modul în care se referă la lumea reală.
- Dronii sunt acum diferiți - militari, civili și alții. Sunt drone care schimbă informații între ele în acest fel - este o clasă specifică?
- Nu, de fapt, toată lumea poate face schimb.Sincer, nu cunosc un singur dispozitiv de dronă care să nu partajeze informații. Chiar și atunci când controlați cu telecomanda, o puteți obține. De aceea lucrăm la un nivel destul de ridicat de abstractizare folosind implementări private, dar în general acestea sunt soluții destul de generale - generice, după cum se spune.
- În ultimul an am văzut cazuri în care trăiesca creat probleme pentru oameni. Dronii care se pot prăbuși în avioane, dronii care au blocat pistele. Este posibil să se prevină cumva astfel de situații?
- Dacă este controlat de om, atunci singurulmod - doar bate-l jos. Adică, să preia controlul, să-l facă să facă ceea ce vrem sau să distrugem fizic. Dacă drona a fost achiziționată, inițial asamblată de cineva și o gestionăm în mod obișnuit, atunci puteți contracara cunoașterea acestor algoritmi standard. Dar acum, pentru a asambla un drone este o sarcină pentru cursuri universitare sau liceale elementare. O mulțime de manuale, piese pot fi achiziționate fără probleme, nu este foarte scump. Prin urmare, logica care va fi în interiorul unor astfel de droni nu poate fi complet standardizată.
- Ai spus despre interceptarea controlului. Pe cât posibil, ceea ce este necesar pentru aceasta?
- Dacă luăm în considerare unele achiziționatesistem, știm protocoalele pe care le comunică. În teorie, putem înlocui panoul de control. Dar aceasta este o sarcină atât de non-trivială. Din punct de vedere al ingineriei și al științei, acest lucru se poate face. În practică, aceasta este o sarcină foarte dificilă de inginerie. Dar solvabil.
- Nimeni nu știe cum să facă asta?
- Din câte știu, nimeni. În orice caz, aceste informații nu sunt disponibile public.
- Ce alte probleme vedeți care ar putea apărea în viitorul apropiat, dacă vorbim de drone?
— Pentru mine, ca agent de securitate, principala problemă estecă sistemul nu va funcționa așa cum își doresc oamenii. Nu vorbesc despre „Matrice”, ci despre faptul că undeva logica și comportamentul sistemului pot fi încălcate. Vrem să vedem un rezultat, dar va fi altul. În linii mari, vrem să construim un stadion din aceste drone. Problema principală este că cărămida din fundație nu va fi plasată așa cum este necesar. Adică vom construi un stadion la nivel global, dar aceste mici abateri din interiorul structurii vor duce la prăbușirea întregii structuri.
- Dacă programăm tot software-ul pentru acești drone, din ce motiv pot pune aceste cărămizi greșite?
- Uite, lumea computerelor este formată din zerouri șiunul, totul este clar. Am expus această logică și am primit un răspuns. Lumea fizică constă dintr-un interval de valori de la zero la unu. Ceea ce ne imaginăm la nivel de calcul poate să nu se traducă în lumea reală. O strălucire a soarelui, o rafală de vânt și cărămida nu mai era aliniată corect. Aceasta este sarcina unei noi ramuri a științei - siguranța funcțională, derivată din siguranța informațiilor, atunci când încercăm să ne adaptăm la acțiunile mediului și să dezvoltăm o soluție care să ne permită asamblarea unei cărămizi indiferent de factorii externi. Și aceasta este o sarcină dificilă. Are soluții, dar niciuna nu garantează complet succesul.
- În donații de acces la masă nu au apărut cu mult timp în urmă. Credeți că situația va continua să fie aceeași, că pot merge și cumpăr un dron? Acum considerată o jucărie, poate această schimbare?
- Nu sunt un avocat, dar, într-un mod amiabil, ar trebui să fieau introdus unele restricții. Din seria "pentru a cumpăra un drone mare fără documente, licențe și alte lucruri este greșit". Cumpărați o jucărie? De ce nu, este puțin probabil să provoace mari daune. Aici, din nou, povestea este că, dacă doriți, totul poate fi înfășurat într-o lumină negativă. Prin urmare, eu, o persoană asociată cu știința, aș dori ca acest lucru să fie disponibil tuturor publicului. Dar o persoană care merge pe străzi ar dori ca anumite restricții rezonabile să fie impuse. Este rezonabil.
Inteligența roiurilor - în roboți și oameni
- Ai fost implicat în prezicerea comportamentului oamenilor.în situații de urgență și a simulat-o pe baza tragediei din "The Lame Horse". Este clar cum puteți crea un model de bare digitale. Dar cum puteți anticipa comportamentul oamenilor? În funcție de ce date?
- Nu, de fapt. Omul se comportă în general destul de spontan, mai ales în cazuri de urgență. Dar avem o ipoteză, pe care am testat-o modelând situația care a avut loc.
— Cum ați modelat comportamentul oamenilor? Rezultatele tale au fost extrem de apropiate de realitate.
- Dacă vorbim despre logica care este acolopionierat, aceasta este așa-numita inteligență a roiurilor. Propunerea de mediere, selectarea liderilor condiționali, deplasarea la ieșiri și așa mai departe. Un principiu destul de trivial. În general, principiul oricărei inteligențe - avem o particulă care se poate comporta foarte proastă, are principii foarte banale și simple. Dar, în cele din urmă, efectul este obținut atunci când întregul sistem se comportă extrem de inteligent.
- Vorbiți acum în termeni mai aplicabili tehnologiei. Dacă vorbim despre oameni, este același lucru?
- Robotul este construit pe principiile omului. Dacă iau un sistem de la o persoană și îl aplic pe un robot, atunci cel puțin pot aplica sistemul de la un robot unei persoane. În domeniul IT, aceste reguli sunt formulate foarte mult timp Cel puțin din 1986.
- De fapt, ai dovedit că funcționează în public?
- Da, am încercat și funcționează. Nu sunt un sociolog și nu un psiholog, dar mi se pare că rezultatul din punctul de vedere al realizării unui experiment științific sa dovedit a fi adevărat: o persoană în caz de urgență coboară la un nivel destul de banal de comportament. Și acest nivel banal poate fi copiat din comportamentul păsărilor, condiționat. În principiu, sa dovedit.
"Mai bine mă omorî decât un copil": etica UAV-urilor
- Ai vorbit despre probleme eticeUAV-urile și dilema alegerii, dacă trebuie să omoare pe cineva. Problema căruciorului este aproape imposibilă în viața reală. Dar, în general, credeți că trebuie să programați astfel de lucruri? Și pot să apară în viața reală?
- Ele vor apărea cu siguranță în viața reală șidacă nu o programăm, ce se va întâmpla atunci? Uite, am dezvoltat un algoritm, mașina funcționează, totul merge, și apoi se întâmplă că bunica și copilul au ieșit din diferite părți ale drumului. Dacă nu vom stabili logica comportamentului în acest caz, atunci ne-am ruga să renunțăm la această responsabilitate morală. Acesta este un pas spre lașitate, cred.
incut
"Dacă nu punem un anumit model de comportament într-un sistem fără pilot într-o astfel de situație, ce va face?"
— Depinde de sistem. Poate că va încerca să-și minimizeze riscurile și, condiționat, să-l doboare pe cel care este mai aproape.
- Spui că trebuie să programăm totul. Cine trebuie deci să decidă cine să tragă în jos?
- Mi se pare că Massachusetts (MIT - "high-tech") a mers pe calea cea bună - democrația.
Oamenii de știință de la Massachusetts TechnologyInstitutul (MIT) a făcut un joc în care utilizatorul este invitat să aleagă între două variante ale comportamentului unui vehicul fără pilot în cazul dilemelor etice. Rezultatul a fost un studiu global în care milioane de oameni au participat la sute de țări. Sa dovedit că oamenii din diferite țări au idei diferite despre cum dronii ar trebui să se ocupe de problemele etice.
- Așa că trebuie să votăm, cine ar trebui să tragă un dron?
- Nu chiar. Trebuie să existe un studiu sociologic care să ne permită să facem o alegere. Întreaga umanitate va fi responsabilă pentru asta, nu doar un programator.
- Credeți că acest lucru va funcționa, oamenii o vor accepta?
- Acest lucru va provoca în continuare nemulțumire, pentru căunui număr mare de oameni li s-a oferit posibilitatea de a alege, iar cineva va fi în mod natural în dezacord cu asta. Dar dacă nu există deloc de ales și, în schimb, există o decizie autoritară, atunci aceasta nu este pe deplin corectă.