Може ли лажна лаж?
— Тема вашег предавања је „Зашто терамо роботе да лажу“. Лежи у својој класици
"У нашем случају, лаж је када се информације о томе како стварни свет не подудара са спољашњим светомИмамо покварен сензор и стварно то видимо на тај наиин, или га фалсификујемо у име фалсификовања, или из неког другог разлога.Када ти и ја комуницирамо, могу да лаћем јер грељим у закљуицима или не видим добро.Није ти ваћно, ова информација же ионако бити лаћна за тебе.Зато смо погледали методе менадћмента који осигурају систем.
- Када говорите о роботима и "мулти-агент системима", мислите на беспилотна возила?
- Не, ово је само најпопуларнија дестинација. Сада су најпопуларније теме беспилотне летелице.
- Да ли тестирате решења за проблеме који се могу појавити?
- Имамо два нивоа. На првом нивоу, гледамо на информације које путују унутар дрона, јер се информације са сензора још увек обрађују пре него што стигне до рачунара. На другом нивоу, информације се размењују између беспилотних летелица, а ми их такође тестирамо. Гледамо како се односи на стварни свијет.
- Дрони су сада различити - војни, грађански и други. Да ли су трутови који размјењују информације једни с другима на овај начин - да ли је то специфична класа?
Искрено , не знам ни један урерај који не дели информације.Иак и када контролиљељ даљинским управљаиом, јољ увек је могуже да га добијељ.Зато радимо на прилично високом нивоу апстракције са употребом приватних имплементација, али уопштено, то су прилично општа решења — општа, да тако каћем.
- У протеклих годину дана видели смо случајеве где се ради о трутовимастворио проблеме за људе. Дрони који се могу срушити у авионе, трутове који су блокирали писте. Да ли је могуће некако спријечити такве ситуације?
- Ако га контролише човек, онда једининачин - само га срушите. То јест, преузети контролу, натјерати га да ради оно што желимо, или само физички уништити. Ако је дрона купљен, у почетку је већ био састављен од некога, а ми га управљамо по обичају, онда можете да се супротставите, знајући ове стандардне алгоритме. Али сада да се окупи дрона је задатак за основне курсеве универзитета или средње школе. Много приручника, делова који се могу купити без проблема, нису скупи. Дакле, логика која ће бити унутар таквих властитих трутова не може се у потпуности стандардизовати.
- Рекли сте за пресретање контроле. Колико је то могуће, шта је потребно за то?
- Ако размотримо неке купљенесистем, знамо протоколе на којима комуницира. У теорији, можемо заменити контролни панел. Али ово је тако небитан задатак. Са становишта инжењерства и науке, то се може учинити. У пракси, ово је веома тежак инжењерски задатак. Али решив.
- Сада нико не зна како то да уради?
- Колико ја знам, нико. У сваком случају, такве информације нису јавно доступне.
- Које још проблеме видите у блиској будућности, ако говоримо о трутовима?
"За мене, као специјалисту за безбедност, главни проблем је да ће системНе мислим на Матрикс, веж на оно љто неко други моће да уради.Ћелимо да видимо један резултат, али же бити један резултат.Грубо говорежи, ћелимо да изградимо стадион од ових дронова.Глобално жемо изградити стадион, али ове мале девијације унутар структуре же довести до.цињеницу да це цела структура пропасти.
- Ако програмирамо сав софтвер за ове беспилотне летелице, из којег разлога они могу погрешно ставити ове цигле?
"Свет компјутера се састоји од нула и један, све је јасно.Поставили смо ову логику, добили смо одговор.Оно што ставимо на ниво изражености може се урадити у стварном светуОдсјај сунца, ветар, и цигла је веж била на погрељном месту.Ово је задатак нове гране науке, функционалне безбедности, изражених одкада покушамо да се прилагодимо акцијама животне средине и развијемо решење које ће нам омогућити даА ово је тећак задатак.Има решења, али ниједно од њих не гарантује у потпуностиУспео је.
- У масовном приступу дрони су се појавили не тако давно. Мислите ли да ће ситуација и даље бити иста, да могу ићи и купити дрону? Сматра ли се сада играчком, може ли се то промијенити?
- Ја нисам адвокат, али, на пријатељски начин, треба да будеувела нека ограничења. Из серије „куповина великог дрона без икаквих докумената, лиценци и других ствари је погрешно“. Купите играчки дрон? Зашто не, мало је вероватно да ће проузроковати много штете. И опет, прича је да, ако желите, све се може умотати у негативно светло. Према томе, ја, особа повезана са науком, волела бих да ово буде јавно доступно. Али особа која хода улицама жели нека наметнута разумна ограничења. То је разумно.
Рој интелигенција - у роботима и људима
- Ти си био укључен у предвиђање понашања људи.у хитним ситуацијама и симулирао је на основу трагедије у "Ламе Хорсе". Јасно је како можете креирати модел дигиталног бара. Али како можете предвидети понашање људи? На основу којих података?
- Не, у ствари. Човек се углавном понаша спонтано, нарочито у хитним случајевима. Али имамо хипотезу, коју смо тестирали моделирањем ситуације која се десила.
– Како сте моделирали понашање људи? Ваши резултати су били изузетно блиски стварности.
- Ако говоримо о логици која је туто је такозвана интелигенција роја. Усредњавање кретања, избор условних вођа, кретање ка излазима и тако даље. Прилично тривијалан принцип. У принципу, принцип било које интелигенције - имамо честицу која се може понашати врло глупо, има врло баналне и једноставне принципе. Али на крају, ефекат се добија када се цео систем понаша изузетно интелигентно.
- Сада говорите у терминима који су више примјењиви на технологију. Ако говоримо о људима, да ли је то исто?
- Робот је изграђен на принципима човека. Ако узмем систем од особе и применим је на робота, онда барем могу да применим систем од робота до особе. У области ИТ-а, ова правила су формулисана веома дуго. Барем од 1986. године.
- У ствари, доказали сте да ради јавно?
- Да, покушали смо и ради. Ја нисам социолог, а не психолог, али чини ми се да је резултат са становишта спровођења научног експеримента био истинит: особа у хитним случајевима се спушта на прилично баналан ниво понашања. И овај банални ниво може се копирати из понашања птица, условно. У принципу, испоставило се.
"Боље да ме убијем него дете": етика беспилотних летелица
- Причали сте о етичким питањимаУАВ и дилема избора да ли морају некога убити. Проблем колица је у реалном животу једва могућ. Али генерално, да ли мислите да треба да програмирате такве ствари? И могу ли се догодити у стварном животу?
- Дефинитивно ће се појавити у стварном животу, иако га не програмирамо, шта ће се онда десити? Гледајте, развили смо алгоритам, машина ради, све иде, а онда се дешава да су бака и дете истрчали са различитих крајева пута. Ако не поставимо логику понашања у овом случају, онда бисмо се, као што смо сада, одрекли моралне одговорности за то. Мислим да је то корак ка кукавичлуку.
Сидебар
"Ако у таквој ситуацији не ставимо одређени модел понашања у беспилотни систем, шта ће то учинити?"
— Зависи од система. Можда ће покушати да минимизира своје ризике и, условно, оборити оног ко је ближе.
- Кажете да морамо све да програмирамо. Ко онда мора одлучити кога ће оборити?
- Чини ми се да је Массацхусеттс (МИТ - "Хигх-тецх") отишао на прави начин - демократију.
Научници из Массацхусеттс технологијеИнститут (МИТ) је направио игру у којој је корисник позван да бира између двије варијанте понашања беспилотног возила у случају етичких дилема. Резултат је била глобална студија у којој су милиони људи учествовали у стотинама земаља. Показало се да људи у различитим земљама имају различите идеје о томе како се трутови морају бавити етичким питањима.
- Дакле, морамо гласати, ко би требао да обара дрон?
- Не баш. Мора постојати социолошка студија која ће нам омогућити да направимо избор. За то ће бити одговорно цело човечанство, а не само један програмер.
- Мислите ли да ће ово успети, људи ће то прихватити?
- Ово ће ипак изазвати незадовољство, јервелики број људи је добио избор, а неко се природно неће сложити са тим. Али ако избора уопште нема, а уместо тога постоји ауторитарна одлука, онда то није сасвим поштено.