Lehet egy drone hazudni?
– Előadásod témája: „Miért kényszerítjük hazugságra a robotokat?” A klasszikusban rejlik
— A mi esetünkben hazugság az, ha információ arróla való világ működése nem felel meg annak, amit kívülről olvasunk és közvetítünk. Milyen okból? Elromlott a szenzorunk és tényleg így látjuk, vagy hamisítás céljából, vagy más okból hamisítjuk. Amikor kommunikálunk, tudok hazudni. Mert tévedek a következtetéseimben, vagy rosszul látok. Számodra nem számít, ezek az információk minden esetben hamisak lesznek az Ön számára. Ezért megvizsgáltuk azokat a vezérlési módszereket, amelyek biztonságossá teszik a rendszert.
- Amikor robotokról és „multi-ügynök rendszerekről” beszélsz, értesz-e pilóta nélküli járműveket?
- Nem, ez csak a legnépszerűbb célpont. Most a legnépszerűbb témák a pilóta nélküli légi járművek.
- Megpróbál-e megoldást találni a felmerülő problémákra?
- Két szintünk van. Első szinten megnézzük, hogy milyen információ halad a drone belsejében, mert az érzékelőktől származó információ még mindig feldolgozásra kerül, mielőtt eléri a számítástechnikai eszközt. A második szinten a drónok közötti információcsere történik, és azt is teszteljük. Nézzük, hogyan kapcsolódik a való világhoz.
- A dronok most különbözőek - katonai, civil és mások. Azok a drónok, akik így egymással információt cserélnek - ez egy bizonyos osztály?
- Nem, sőt, mindenki cserélhet.Őszintén szólva nem tudok egyetlen olyan drónról sem, amely ne osztana meg információkat. Még akkor is megkaphatja, ha a távirányítóval irányítja. Ezért dolgozunk az absztrakció meglehetősen magas szintjén privát implementációkkal, de általában ezek meglehetősen általános megoldások - általánosságok, ahogy mondani szokás.
- Az elmúlt évben láttunk olyan eseteket, amikor drónokproblémákat teremtett az emberek számára. Dronok, amelyek lezuhanhatnak a repülőgépekbe, drónok, amelyek blokkolták a kifutópályákat. Lehet-e valahogy megakadályozni az ilyen helyzeteket?
- Ha az ember irányítja, akkor az egyetlenmódon - csak üsse le. Vagyis, hogy átvegye az irányítást, tegye azt, amit akar, vagy csak fizikailag elpusztítja. Ha a drone-t megvásárolták, először már valaki összeállította, és a szokásos módon kezeljük, akkor ellensúlyozhatja ezeket a szabványos algoritmusokat. De most, hogy összeszereljünk egy drone-t, az elemi egyetemi vagy középiskolai tanfolyamok feladata. Sok kézikönyv, alkatrész problémamentesen megvásárolható, nem túl drága. Ezért az ilyen saját drónokon belüli logika nem lehet teljesen szabványosítva.
- Azt mondtad, hogy az ellenőrzés megszűnik. Amennyire lehetséges, mi szükséges ehhez?
- Ha néhányat megvásárolunkrendszer, ismerjük azokat a protokollokat, amelyeken kommunikál. Elméletileg helyettesíthetjük a központot. De ez egy ilyen nem triviális feladat. A mérnöki és tudományos szempontból ez megtehető. A gyakorlatban ez egy nagyon nehéz mérnöki feladat. De megoldható.
- Most már senki sem tudja, hogyan kell ezt csinálni?
- Amennyire tudom, senki. Mindenesetre az ilyen információk nem nyilvánosak.
- Milyen egyéb problémákat lát, amelyek a közeljövőben felmerülhetnek, ha drónokról beszélünk?
– Nekem, mint biztonsági őrnek, a fő probléma azhogy a rendszer nem úgy fog működni, ahogy az emberek szeretnék. Nem a „mátrixról” beszélek, hanem arról, hogy valahol a rendszer logikája és viselkedése sérülhet. Egy eredményt szeretnénk látni, de lesz másik. Nagyjából ezekből a drónokból szeretnénk stadiont építeni. A fő probléma az, hogy az alapozásban lévő tégla nem lesz szükség szerint elhelyezve. Vagyis globálisan építünk egy stadiont, de ezek a szerkezeten belüli kis eltérések az egész építmény összeomlásához vezetnek.
- Ha az összes szoftvert programozzuk ezekre a drónokra, miért tévednek ezek a téglák?
- Nézd, a számítógépek világa nullákból és nullákból állegy, minden világos. Ezt a logikát lefektettük, és választ kaptunk. A fizikai világ nullától egyig terjedő értéktartományból áll. Amit számítási szinten elképzelünk, nem biztos, hogy átültetjük a való világba. A nap csillogása, egy széllökés és a tégla már nem volt megfelelően beállítva. Ez egy új tudományág - az információbiztonságból levezetett funkcionális biztonság - feladata, amikor megpróbálunk alkalmazkodni a környezet cselekedeteihez, és olyan megoldást dolgozunk ki, amely lehetővé teszi, hogy külső tényezőktől függetlenül összeállítsunk egy téglát. Ez pedig nehéz feladat. Vannak megoldásai, de egyik sem garantálja teljesen a sikert.
- A tömeges hozzáférésű drónok nem olyan régen megjelentek. Gondolod, hogy a helyzet továbbra is ugyanaz lesz, hogy el tudok menni és vásárolni egy drone-t? Most tekinthető játéknak, ez a változás?
- Nem vagyok ügyvéd, de békés úton kell lennembevezetett néhány korlátozást. A sorozatból „nagy drone vásárlása dokumentumok nélkül, licencek és egyéb dolgok hibásak”. Vásároljon egy játék drone-t? Miért ne, nem valószínű, hogy sok kárt okozna. Ismét itt a történet az, hogy ha akarod, mindent negatív fényben lehet becsomagolni. Ezért én, a tudományhoz kapcsolódó személy, szeretném, ha ez minden nyilvánosan elérhető lenne. De az az ember, aki sétál az utcán, néhány ésszerű korlátozást szeretne alkalmazni. Ez ésszerű.
Szúró intelligencia - robotokban és emberekben
- Ön részt vett az emberek viselkedésének előrejelzésében.vészhelyzetekben és a „Lame Horse” tragédiája alapján szimulálták. Egyértelmű, hogy hogyan hozhat létre digitális sávmodellt. De hogyan lehet megjósolni az emberek viselkedését? Milyen adatok alapján?
- Nem, valójában. Az ember általában spontán viselkedik, különösen vészhelyzetben. De van egy hipotézisünk, melyet a bekövetkezett helyzet modellezésével teszteltünk.
– Hogyan modellezted az emberek viselkedését? Eredményei rendkívül közel álltak a valósághoz.
- Ha a logikáról beszélünkzálogjog, ez az ún. A mozgás átlagolása, a feltételes vezetők kiválasztása, mozgás a kijáratokra és így tovább. Elég triviális elv. Általában minden intelligencia elve - van egy olyan részecske, amely nagyon ostoba viselkedhet, nagyon banális és egyszerű elvekkel rendelkezik. A végén azonban a hatás akkor érhető el, ha az egész rendszer rendkívül intelligensen viselkedik.
- Most jobban beszélsz a technológia szempontjából. Ha emberekről beszélünk, ugyanazt mondjuk?
- A robot az ember alapelveire épül. Ha egy személyt veszek be egy robotból, és azt egy robotra alkalmazom, akkor legalább a robotot alkalmazom egy személyre. Az informatika területén ezek a szabályok nagyon hosszú időre vannak megfogalmazva. Legalább 1986 óta.
- Valójában bebizonyította, hogy nyilvánosan működik?
- Igen, megpróbáltuk, és működik. Nem vagyok szociológus és nem pszichológus, de számomra úgy tűnik, hogy a tudományos kísérlet lefolytatásából eredő eredmény igaznak bizonyult: a vészhelyzetben lévő személy egy inkább banális viselkedési szintre esik. És ez a banális szint a madarak viselkedésétől függően másolható. Elvileg kiderült.
„Jobb, ha megölnék, mint egy gyermek”: az UAV-k etikája
- Etikai kérdésekről beszéltUAV-k és a választás dilemmája, ha valakit meg kell ölniük. A kocsi problémája a valóságban aligha lehetséges. De általában úgy gondolod, hogy ilyen dolgokat kell programozni? És valóban előfordulhatnak-e a valóságban?
- Bizonyára a való életben merülnek fel, ésha nem programozzuk, mi fog történni? Nézd, kifejlesztettünk egy algoritmust, a gép működik, minden megy, és akkor megtörténik, hogy a nagymama és a gyerek elfogyott az út különböző végeiből. Ha ebben az esetben nem határozzuk meg a viselkedés logikáját, akkor mi lenne, ha ez megakadályozná az erkölcsi felelősséget. Ez egy lépés a gyávaság felé, azt hiszem.
betoldott
„Ha egy ilyen helyzetben nem teszünk egy bizonyos modellt a pilóta nélküli rendszerbe, mit fog tenni?”
– Ez a rendszertől függ. Talán megpróbálja minimalizálni kockázatait, és feltételesen lelőni azt, aki közelebb van.
- Azt mondod, hogy mindent be kell programoznunk. Akkor ki kell eldöntenie, ki lőjön le?
- Úgy tűnik számomra, hogy Massachusetts (MIT - "High Tech") helyes utat tett - a demokrácia.
A Massachusetts Technology tudósaiAz Intézet (MIT) olyan játékot készített, amelyben a felhasználó felkérést kap arra, hogy etikus dilemmák esetén válasszon a pilóta nélküli jármű viselkedésének két változata közül. Az eredmény egy globális tanulmány volt, amelyben több millió ember vett részt több száz országban. Kiderült, hogy a különböző országokban élő embereknek különböző elképzelések vannak arról, hogy a drónoknak hogyan kell foglalkozniuk az etikai kérdésekkel.
- Szóval meg kell szavaznunk, ki kell lőni egy drónot?
- Nem igazán. Kell lennie egy szociológiai tanulmánynak, amely lehetővé teszi számunkra a választást. Az egész emberiség felelős lesz érte, nem csak egy programozó.
- Gondolod, hogy ez fog működni, az emberek elfogadják?
- Ez még elégedetlenséget fog okozni, mertsok ember választhatott, és valaki természetesen nem ért vele egyet. De ha nincs választási lehetőség, helyette tekintélyelvű döntés van, akkor ez nem teljesen igazságos.