Voiko drone valehdella?
- Luennon aiheena on "Miksi pakotamme robotit valehtelemaan?" Sijaitsee klassikossaan
– Meidän tapauksessamme valhe on sitä, kun tietoatapa, jolla todellinen maailma toimii, ei vastaa sitä, mitä luemme ja välitämme ulkopuolelta. Mistä syystä? Anturimme on rikki ja me todella näemme sen niin, tai väärennämme sitä väärentämisen vuoksi tai jostain muusta syystä. Kun kommunikoimme, voin valehdella. Koska olen väärässä päätelmissäni tai näen huonosti. Sillä ei ole sinulle merkitystä, nämä tiedot ovat joka tapauksessa vääriä sinulle. Siksi tarkastelimme ohjausmenetelmiä, jotka tekevät järjestelmästä turvallisen.
- Kun puhut robotteista ja "monitoimijärjestelmistä", tarkoitatko miehittämättömiä ajoneuvoja?
- Ei, tämä on vain suosituin kohde. Nyt suosituimpia aiheita ovat miehittämättömät ilma-alukset.
- Testatteko ratkaisuja ongelmiin, jotka voivat syntyä?
- Meillä on kaksi tasoa. Ensimmäisellä tasolla tarkastelemme, mitä tietoja kulkee droneen sisällä, koska antureista saadut tiedot käsitellään edelleen ennen kuin se saavuttaa laskentalaitteen. Toisella tasolla tietoja vaihdetaan droneiden välillä ja testataan myös sitä. Katsomme, miten se liittyy todelliseen maailmaan.
- Dronit ovat nyt erilaisia - sotilaallisia, siviili- ja muita. Onko droneja, jotka vaihtavat tietoja keskenään tällä tavalla - onko tämä tietty luokka?
- Ei, itse asiassa kaikki voivat vaihtaa.Rehellisesti sanottuna en tiedä yhtään drone-laitetta, joka ei jakaisi tietoja. Vaikka ohjaisit kaukosäätimellä, voit silti saada sen. Siksi työskentelemme melko korkealla abstraktiotasolla käyttämällä yksityisiä toteutuksia, mutta yleensä nämä ovat melko yleisiä ratkaisuja - geneerisiä, kuten sanotaan.
- Kuluneen vuoden aikana olemme nähneet tapauksia, joissa dronesluonut ongelmia ihmisille. Dronit, jotka voivat törmätä lentokoneisiin, drones jotka estivät kiitotien. Onko mahdollista jotenkin estää tällaisia tilanteita?
- Jos ihminen valvoo sitä, niin ainoatavalla - vain pudota se alas. Toisin sanoen, ota hallintaan, tee hänestä se, mitä haluamme, tai vain tuhoamme fyysisesti. Jos drone on ostettu, jonkun alun perin koonnut, ja me hallitsemme sitä mukautetulla tavalla, voit torjua näitä standardialgoritmeja. Mutta nyt kootaan drone on tehtävä peruskoulun tai lukion kursseille. Paljon käsikirjoja, osia voi ostaa ilman ongelmia, se ei ole kovin kallista. Siksi tällaisten omien droneiden sisällä olevaa logiikkaa ei voida täysin standardoida.
- Sanoit valvonnan sieppauksesta. Mitä tähän tarvitaan, mikäli mahdollista?
- Jos pidämme joitakin ostettujajärjestelmä, tiedämme ne protokollat, joista se kommunikoi. Teoriassa voimme korvata ohjauspaneelin. Mutta tämä on niin epätavallinen tehtävä. Tekniikan ja tieteen näkökulmasta tämä voidaan tehdä. Käytännössä tämä on hyvin vaikea tekninen tehtävä. Mutta ratkaiseva.
- Nyt kukaan ei osaa tehdä tätä?
- Sikäli kuin tiedän, kukaan ei. Tällaiset tiedot eivät missään tapauksessa ole julkisia.
- Mitä muita ongelmia saatat nähdä lähitulevaisuudessa, jos puhumme droneista?
– Minulle vartijana suurin ongelma onettä järjestelmä ei toimi niin kuin ihmiset haluavat. En puhu "Matriisista", vaan siitä, että jossain järjestelmän logiikkaa ja käyttäytymistä voidaan rikkoa. Haluamme nähdä yhden tuloksen, mutta tulee toinen. Karkeasti sanottuna haluamme rakentaa stadionin näistä droneista. Suurin ongelma on, että perustan tiiliä ei sijoiteta tarpeen mukaan. Eli rakennamme stadionin globaalisti, mutta nämä pienet poikkeamat rakenteen sisällä johtavat koko rakenteen romahtamiseen.
- Jos ohjelmoimme kaikki ohjelmistot näille droneille, miksi he voivat laittaa nämä tiilet väärin?
- Katso, tietokoneiden maailma koostuu nollista jayksi, kaikki on selvää. Esitimme tämän logiikan ja saimme vastauksen. Fyysinen maailma koostuu arvoalueesta nollasta yhteen. Se, mitä kuvittelemme laskennallisella tasolla, ei välttämättä käänny todelliseen maailmaan. Auringon häikäisy, tuulenpuuska ja tiili ei ollut enää oikein kohdistettu. Tämä on uuden tieteenalan – tietoturvallisuudesta johdetun toiminnallisen turvallisuuden – tehtävä, kun yritämme sopeutua ympäristön toimintaan ja kehittää ratkaisua, jonka avulla voimme koota tiilen ulkoisista tekijöistä riippumatta. Ja tämä on vaikea tehtävä. Sillä on ratkaisuja, mutta mikään niistä ei täysin takaa menestystä.
- Massapääsyyn ilmestyi droneja niin kauan sitten. Luuletko, että tilanne on edelleen sama, jota voin mennä ja ostaa drone? Nyt pidetään lelu, voiko tämä muutos?
- En ole asianajaja, mutta sovinnollisestikäyttöön joitakin rajoituksia. Sarjasta "ostaa iso drone ilman dokumentteja, lisenssejä ja muita asioita on väärä". Osta lelu drone? Miksi ei, hän ei todennäköisesti aiheuta paljon vahinkoa. Tässä taas tarina on, että jos haluat, kaikki voidaan kääriä negatiiviseen valoon. Siksi minä, luonnontieteeseen liittyvä henkilö, haluaisin, että tämä olisi kaikki julkisesti saatavilla. Mutta kaduilla kävijä haluaisi asettaa kohtuullisia rajoituksia. Se on järkevää.
Älykäs tiedustelu - robotteissa ja ihmisissä
- Olit mukana ennustamassa ihmisten käyttäytymistä.hätätilanteissa ja simuloi sitä "The Lame Horse" -tragedian perusteella. On selvää, miten voit luoda digitaalisen bar-mallin. Mutta miten voit ennustaa ihmisten käyttäytymistä? Mitä tietoja?
- Ei, itse asiassa. Mies käyttäytyy yleensä varsin spontaanisti, varsinkin hätätapauksissa. Mutta meillä on hypoteesi, jota testasimme mallintamalla tapahtuneesta tilanteesta.
– Miten mallinoit ihmisten käyttäytymistä? Tuloksesi olivat erittäin lähellä todellisuutta.
- Jos puhumme logiikasta, joka on siellätämä on ns. Liikkeen keskiarvoistaminen, ehdollisten johtajien valinta, liikkuminen poistumiseen ja niin edelleen. Melko vähäinen periaate. Yleensä kaiken älykkyyden periaate - meillä on hiukkaset, jotka voivat käyttäytyä hyvin typerästi, sillä on hyvin banaalisia ja yksinkertaisia periaatteita. Mutta loppujen lopuksi vaikutus saadaan, kun koko järjestelmä käyttäytyy erittäin älykkäästi.
- Puhutte nyt paremmin tekniikan kannalta. Jos puhumme ihmisistä, onko se sama?
- Robotti on rakennettu ihmisen periaatteisiin. Jos otan järjestelmän henkilöstä ja sovelletaan sitä robottiin, niin ainakin voin soveltaa järjestelmää robotilta henkilölle. Tietotekniikan alalla nämä säännöt on muotoiltu hyvin pitkään. Ainakin vuodesta 1986.
- Itse asiassa te osoititte, että se toimii julkisesti?
- Kyllä, yritimme ja se toimii. En ole sosiologi eikä psykologi, mutta minusta tuntuu, että tieteellisen kokeilun suorittamisen tulos osoittautui totta: hätätapauksissa henkilö laskee melko banaalista käyttäytymistasoa. Ja tämä banaalinen taso voidaan kopioida ehdollisesti lintujen käyttäytymisestä. Periaatteessa se osoittautui.
"Haluan saada minut tappamaan kuin lapsi": UAV: iden etiikka
- Puhuitte eettisistä kysymyksistäUAV: t ja valinta, jos he joutuvat tappamaan jonkun. Vaunun ongelma on tuskin mahdollista todellisessa elämässä. Mutta yleisesti ottaen, onko sinun tarvetta ohjelmoida tällaisia asioita? Ja voivatko ne esiintyä todellisessa elämässä?
- Ne syntyvät varmasti todellisessa elämässä, jajos emme ohjelmoi sitä, mitä sitten tapahtuu? Katso, olemme kehittäneet algoritmin, kone toimii, kaikki menee, ja sitten tapahtuu, että isoäiti ja lapsi loppuivat tien eri päistä. Jos emme määritä käyttäytymisen logiikkaa tässä tapauksessa, niin me, kuten se olisi, hylkäämään moraalisen vastuun siitä. Tämä on mielestäni askel kohti pelkuruutta.
incut
”Jos emme aseta tietynlainen käyttäytymismalli miehittämättömään järjestelmään tällaisessa tilanteessa, mitä se tekee?”
– Se riippuu järjestelmästä. Ehkä hän yrittää minimoida riskinsä ja ampua ehdollisesti alas sen, joka on lähempänä.
- Sanotte, että meidän on ohjelmoitava kaikki. Kuka sitten päättää, kuka ampua alas?
- Minusta tuntuu, että Massachusetts (MIT - "High-tech") meni oikeaan suuntaan - demokratiaan.
Tutkijat Massachusettsin teknologiastaInstituutti (MIT) teki pelin, jossa käyttäjää pyydetään valitsemaan kaksi vaihtoehtoa miehittämättömän ajoneuvon käyttäytymisestä eettisten ongelmien tapauksessa. Tuloksena oli maailmanlaajuinen tutkimus, jossa miljoonat ihmiset osallistuivat satoihin maihin. Kävi ilmi, että eri maissa asuvilla ihmisillä on erilaiset ajatukset siitä, miten dronesin tulisi käsitellä eettisiä kysymyksiä.
- Joten meidän on äänestettävä, kenen pitäisi ampua drone?
- Ei oikeastaan. On oltava sosiologinen tutkimus, jonka avulla voimme tehdä valinnan. Siitä on vastuussa koko ihmiskunta, ei vain yksi ohjelmoija.
- Luuletko, että tämä toimii, ihmiset hyväksyvät sen?
- Tämä aiheuttaa silti tyytymättömyyttä, koskasuuri joukko ihmisiä sai valita, ja joku on luonnollisesti eri mieltä. Mutta jos valinnanvaraa ei ole ollenkaan ja sen sijaan on autoritaarinen päätös, tämä ei ole täysin oikeudenmukaista.