Vai drons var melot?
— Jūsu lekcijas tēma ir "Kāpēc mēs piespiežam robotus melot?" Atrodas savā klasikā
— Mūsu gadījumā meli ir tad, kad informācija parveids, kā darbojas reālā pasaule, neatbilst tam, ko mēs lasām un pārraidām no ārpuses. Kāda iemesla dēļ? Mūsu sensors ir salauzts, un mēs to tiešām tā redzam, vai arī viltojam to falsifikācijas dēļ, vai kāda cita iemesla dēļ. Kad mēs sazināmies, es varu melot. Jo es kļūdos savos secinājumos vai redzu slikti. Jums tas nav svarīgi, šī informācija jums jebkurā gadījumā būs nepatiesa. Tāpēc mēs apskatījām kontroles metodes, kas padara sistēmu drošu.
- Kad jūs runājat par robotiem un "vairāku aģentu sistēmām", jūs domājat bezpilota transportlīdzekļus?
- Nē, tas ir tikai populārākais galamērķis. Tagad populārākās tēmas ir bezpilota lidaparāti.
- Vai jūs pārbaudāt iespējamo problēmu risinājumus?
- Mums ir divi līmeņi. Pirmajā līmenī mēs skatāmies, kāda informācija pārvietojas drona iekšienē, jo informāciju no sensoriem joprojām apstrādā, pirms tā nokļūst skaitļošanas ierīcē. Otrajā līmenī notiek informācijas apmaiņa starp droniem, un mēs arī to pārbaudām. Mēs skatāmies, kā tas attiecas uz reālo pasauli.
- Droni tagad ir atšķirīgi - militārie, civilie un citi. Vai droni, kas tādā veidā apmainās ar informāciju, ir noteikta klase?
– Nē, patiesībā visi var apmainīties.Godīgi sakot, es nezinu nevienu drona ierīci, kas nedalītos ar informāciju. Pat ja jūs vadāt ar tālvadības pulti, jūs joprojām varat to iegūt. Tāpēc mēs strādājam diezgan augstā abstrakcijas līmenī, izmantojot privātas implementācijas, taču kopumā tie ir diezgan vispārīgi risinājumi - vispārīgi, kā saka.
- Pēdējā gada laikā mēs esam redzējuši gadījumus, kad droniradīja problēmas cilvēkiem. Droni, kas var ietriekties lidmašīnās, droni, kas bloķē skrejceļus. Vai šādas situācijas var kaut kā novērst?
- Ja to kontrolē cilvēks, tad vienīgaisveids ir tikai viņu notriekt. Tas ir, izmantot kontroli, likt tai rīkoties tā, kā mēs vēlamies, vai vienkārši to fiziski iznīcināt. Ja dronu iegādājās, to sākotnēji ir montējis kāds, un mēs to kontrolējam pēc pasūtījuma, tad, nezinot šos standarta algoritmus, jūs varat to neitralizēt. Bet tagad drona kolekcionēšana ir pamatskolas vai vidusskolas studentu uzdevums. Ļoti daudz rokasgrāmatu, detaļu var iegādāties bez problēmām, tas maksā ne pārāk dārgi. Tāpēc loģiku, kas būs šādos pašu dronos, nevar pilnībā standartizēt.
- Jūs teicāt par kontroles pārtveršanu. Cik iespējams tas ir vajadzīgs?
- Ja mēs apsveram kādu iegādātusistēmu, tad mēs zinām protokolus, ar kuriem tā sazinās. Teorētiski mēs varam aizstāt vadības paneli. Bet tas ir tik nesvarīgs uzdevums. No inženierzinātņu un zinātnes viedokļa to var izdarīt. Praksē tas ir ļoti grūts inženiertehnisks uzdevums. Bet atrisināts.
- Tagad neviens nezina, kā to izdarīt?
- Cik es zinu, neviens. Jebkurā gadījumā šāda informācija nav publiski pieejama.
- Kādas citas problēmas jūs redzat, kas var rasties tuvākajā nākotnē, ja mēs runājam par droniem?
— Man kā apsargam galvenā problēma irka sistēma nedarbosies tā, kā cilvēki vēlas. Es nerunāju par “Matricu”, bet gan par to, ka kaut kur var tikt pārkāpta sistēmas loģika un uzvedība. Mēs gribam redzēt vienu rezultātu, bet būs cits. Aptuveni runājot, mēs vēlamies no šiem droniem uzbūvēt stadionu. Galvenā problēma ir tā, ka ķieģelis pamatnē netiks novietots tā, kā nepieciešams. Tas ir, mēs būvēsim stadionu globāli, bet šīs nelielās novirzes konstrukcijā novedīs pie visas struktūras sabrukšanas.
- Ja mēs ieprogrammējam visu šo dronu programmatūru, kāda iemesla dēļ viņi šos ķieģeļus var ievietot nepareizi?
- Paskaties, datoru pasaule sastāv no nullēm unviens, viss skaidrs. Mēs izklāstījām šo loģiku un saņēmām atbildi. Fiziskā pasaule sastāv no vērtību diapazona no nulles līdz vienam. Tas, ko mēs iedomājamies skaitļošanas līmenī, var neattiekties uz reālo pasauli. Saules atspīdums, vēja brāzma un ķieģelis vairs nebija pareizi izlīdzināts. Tas ir jaunas zinātnes nozares - funkcionālās drošības uzdevums, kas atvasināts no informācijas drošības, kad cenšamies pielāgoties apkārtējās vides rīcībai un izstrādāt risinājumu, kas ļaus salikt ķieģeli neatkarīgi no ārējiem faktoriem. Un tas ir grūts uzdevums. Tam ir risinājumi, taču neviens no tiem pilnībā negarantē panākumus.
- Droni masu piekļuvē parādījās ne tik sen. Vai jūs domājat, ka nākotnē situācija būs tāda pati, ka es varu iet un pirkt dronu? Vai tas tiek uzskatīts par rotaļlietu, vai tas var mainīties?
- Es neesmu jurists, bet, labā ziņā, tā vajadzētu būtir ieviesti daži ierobežojumi. No sērijas “pirkt lielu dronu bez jebkādiem dokumentiem, licencēm un citām lietām ir nepareizi”. Nopirkt drona rotaļlietu? Kāpēc ne, maz ticams, ka tas nodarīs daudz postījumu. Atkal stāsts ir tāds, ka, ja vēlas, visu var iestrādāt negatīvā gaismā. Tāpēc es, cilvēks, kas saistīts ar zinātni, vēlētos, lai tas būtu publiski pieejams. Bet cilvēks, kurš staigā pa ielām, vēlētos, lai tiktu ieviesti daži saprātīgi ierobežojumi. Tas ir pamatoti.
Spieta intelekts - robotos un cilvēkos
- Jūs paredzējāt cilvēku uzvedībuārkārtas situācijās un modelēja to, pamatojoties uz traģēdiju filmā "klibais zirgs". Ir skaidrs, kā jūs varat izveidot joslas digitālo modeli. Bet kā jūs varat paredzēt cilvēku uzvedību? Balstoties uz kādiem datiem?
- Nekādā veidā, patiesībā. Cilvēks parasti uzvedas diezgan spontāni, īpaši ārkārtas gadījumos. Bet mums ir hipotēze, kuru mēs pārbaudījām, izmantojot modelēšanu, ņemot vērā radušos situāciju.
— Kā jūs modelējāt cilvēku uzvedību? Jūsu rezultāti bija ļoti tuvu realitātei.
- Ja mēs runājam par loģiku, kas tur irlaid, tad tas ir tā saucamais spieta intelekts. Vidējā kustība, nosacīto vadītāju izvēle, pārvietošanās uz izejām un daudz kas cits. Pietiekami mazsvarīgs princips. Kopumā jebkura intelekta princips - mums ir daļiņa, kas var izturēties ļoti muļķīgi, tai ir ļoti banāli un vienkārši principi. Bet galu galā tiek panākts efekts, kad visa sistēma uzvedas ārkārtīgi gudri.
- Tagad jūs runājat tādos terminos, kas ir vairāk piemērojami tehnoloģijai. Runājot par cilvēkiem, vai tas ir tas pats?
- Robots ir veidots pēc cilvēka principiem. Ja es ņemu sistēmu no cilvēka un pielietoju to robotam, tad es vismaz varu sistēmu piemērot no robota personai. IT jomā šie noteikumi ir formulēti ļoti ilgu laiku. Vismaz kopš 1986. gada.
- Patiesībā jūs pierādījāt, ka tas darbojas arī sabiedrībā?
- Jā, mēs mēģinājām, un tas darbojas. Es neesmu sociologs un arī psihologs, bet man šķiet, ka rezultāts no zinātniskā eksperimenta veikšanas viedokļa izrādījās pareizs: cilvēks ārkārtas gadījumos pazeminās līdz diezgan banālam uzvedības līmenim. Un šo banālo līmeni nosacīti var pārkopēt no putnu izturēšanās. Principā izrādījās.
“Labāk mani nomāc nekā bērnu”: drona ētika
- Jūs runājāt par ētikas jautājumiemdroni un izvēles dilemma, ja viņiem kāds ir jānogalina. Ratiņu problēma reālajā dzīvē diez vai ir iespējama. Bet vispār, vai jūs domājat, ka šādas lietas vajadzētu ieprogrammēt? Un vai tie var rasties reālajā dzīvē?
- Tie noteikti radīsies reālajā dzīvē, unja mēs to neieprogrammēsim, tad kas notiks? Paskatieties, mēs esam izstrādājuši algoritmu, automašīna darbojas, viss brauc, un tad ir tāda situācija, ka vecmāmiņa un bērns izskrien no dažādiem ceļa galiem. Ja šādā gadījumā mēs neparedzam uzvedības loģiku, tad mēs it kā atbrīvojamies no morālās atbildības par to. Šis ir kaut kāds solis pret gļēvumu, kā man šķiet.
Sānjosla
- Ja mēs šādā situācijā neievietosim noteiktu uzvedības modeli bezpilota sistēmā, ko tā darīs?
— Tas ir atkarīgs no sistēmas. Varbūt viņš centīsies samazināt savus riskus un nosacīti nošaut to, kurš ir tuvāk.
"Jūs sakāt, ka mums tas viss jāprogrammē." Kam tad vajadzētu izlemt, kuru pazemināt?
- Man šķiet, ka Masačūsetsa (MIT - “Hi-Tech”) ir izvēlējusies pareizo ceļu - demokrātiju.
Zinātnieki no Masačūsetsas tehnoloģiskāsInstitūts (MIT) izveidoja spēli, kurā lietotājam tiek lūgts izvēlēties starp divām iespējām bezpilota transporta uzvedībai ētiskas dilemmas gadījumā. Rezultāts bija globāls pētījums, kurā miljoniem cilvēku piedalījās simtos valstu. Izrādījās, ka dažādu valstu cilvēkiem ir atšķirīgas idejas par to, kā droniem vajadzētu risināt ētikas jautājumus.
- Tas ir, mums jābalso, kam drons būtu jāšauj?
- Ne īsti. Jābūt socioloģiskam pētījumam, kas ļaus izdarīt izvēli. Par to būs atbildīga visa cilvēce, nevis tikai viens programmētājs.
- Vai jūs domājat, ka tas darbosies, cilvēki to pieņems?
– Tas tik un tā radīs neapmierinātību, jolielam skaitam cilvēku tika dota izvēle, un kāds tam, protams, nepiekritīs. Bet, ja izvēles vispār nav un tā vietā ir pieņemts autoritārs lēmums, tad tas nav gluži godīgi.