Уявіть собі світ, в якому люди співіснують з системами, які, як і ми, володіютьрозум, думки,
«Прекрасний новий світ» підкидає етичні головоломки.Як поводитися з роботами?Чи маємо ми моральний обов'язок перед тими, кого створили?Можливо, прогрес варто зупинити зовсім, поки штучний інтелектПоки що такі питання залишаються лише припущеннями на тему, адже реальних прикладів розумних роботів у людства поки немає.
Фільм «Той, що біжить по лезу 2049» розповідає про найближче майбутнє, де питання про ставлення до андроидам вже вирішене. Але не всі з цим згодні
Те, що відчувають інші люди, залишаєтьсянедоведеною загадкою для спостерігача: ніхто не може бути впевнений в тому, що його співрозмовник дійсно мислить точно так, як мислить сам розмірковує. І все-таки в розумність інших людей прийнято вірити беззастережно. Допустити, що у роботів є глибокий емоційний інтелект, набагато важче.
Як повірити, що воно - людина?
Щоб зрозуміти, чи можна прийняти конкретний ІІ залюдину, його потрібно тестувати за допомогою тесту Тьюринга. 1950 року його створив піонер комп'ютерних технологій Алан Т'юрінг. Не йшлося про дійсну заміну людини комп'ютером: вченого цікавило питання, чи може машина мати видимий інтелект.
В редакції Тьюринга тест виглядає як діалогміж співрозмовниками, а його мета лише відповісти на єдине питання: «Чи є ваш співрозмовник людиною?». З комп'ютером спілкується один експерт. На сучасних змаганнях по той бік екрану розташовується ціла команда суддів. Вони визначають, чи говорять вони з живим людським єством, виключно завдяки його відповідей на поставлені запитання. Крім того, судді паралельно спілкуються зі справжніми людьми. Виходить своєрідна гра в наперстки, в якій гравцеві потрібно вгадати, де «ховається» справжня людина.
До недавнього часу у чат-ботів не виходилообдурити суддів. Ситуація змінилася, коли російська програма, «хлопчик» Eugene, нарешті пройшла тест. Це сталося на десятиліття пізніше, ніж припускав Тьюринг - замість 50 років комп'ютерів знадобилося 64 роки. Треба сказати, що стовідсотково пройти тест не змогла жодна машина. Більш того, для перемоги потрібно навіть менше, ніж 50% голосів суддів - всього 30%. Eugene здався людиною 33% експертів. Розмова з людьми у нього був коротким, всього п'ять хвилин на кожну людину. Правила, як можна помітити, далекі від строгих.
Стиль спілкування Жені Густмана (Eugene Goostman)далекий від людського. Чат-бот прикидається 13-річним хлопчиком з Одеси, який так чи інакше здатний відповідати на питання про свою особистість, захоплення і знаннях. Він не такий розумний, як міг би - зайва «начитаність» ІІ лише породжує сумніви в експертів. А ще він постійно задає питання сам, допомагаючи розвитку діалогу.
Чи не занадто суворий критерій входження в почеснийклас «людей» не влаштував вченого Х'ю Лебнера, які запропонував новий «золотий стандарт» тесту Тьюринга в 1990 році. Нові правила вимагають, щоб людина і комп'ютер розмовляли не менше 25 хвилин, при тому довга розмова чат-бот повинен вести з кожним з чотирьох суддів. Машина виграє, тільки якщо зможе обдурити хоча б половину експертів. Eugene такий тест пройти б не зміг.
Є й інші, більш складні варіації тестуТьюринга. Наприклад, ІІ може спілкуватися з трьома суддями по дві години з кожним. Він повинен переконати двох з трьох експертів. Футуролог Рей Курцвейл і засновник компанії програмного забезпечення Lotus Мітч Капор навіть побилися об заклад на $ 20 тис .: Курцвейл поставив на те, що хоча б один робот зможе пройти такий жорсткий тест Тьюринга до 2029 року. Ставка досі в силі.
Чи може робот бути суб'єктом правовідносин?
Чат-боти, схожі на людей, ще не люди. Розробники подібних програм вважають, що «пишуть не стільки алгоритми, скільки романи». Бихевиористической наслідування не може виявити справжню розумової активності, креативності, асоціювання і всього того, що притаманне людському розуму і розуму. У питанні про права роботів мова поки не йде про взаємну відповідальність між суб'єктом і державою, а також іншими учасниками правовідносин. Право, що регулює відношення до роботизованим системам, не може бути абсолютно людяним, а тому перед юристами з'являється необхідність абсолютно нових законів.
Правові системи всіх країн світу будуються надопущенні про те, що права можуть бути тільки у людей. Тут необхідне уточнення. Філософи Нового часу розвивали систему природних і позитивних прав - невідчужуваних від природи і створюваних завдяки суспільним договором. Наділяють правами тільки одні істоти на планеті - люди. Але тих, кого можна ще наділити, набагато більше.
Сьогоднішні дебати навколо прав роботівпідсумовуються в книзі професора з Північного Іллінойсу Девіда Ганкеля. Вона так і називається: Robot rights (з англ. «Права роботів» - «Хайтек»). Статус автономних машин, як стверджує вчений, постійно змінюється, тому що роботи представляються «сірою зоною» між фізичними особами та об'єктами. Фактично ми вже живемо в світі, який наповнений штучними сутностями з правами і обов'язками «особи»: це і IBM, і Amazon, і McDonald's. Вони безумовно не стають людьми, але якимось чином взаємодіють з родом людським.
Фільми на кшталт «Термінатора» і «2001:Космічна одіссея »переконують глядачів в тому, що роботи можуть нашкодити людям. Звичайно, і людство здатне дати машинам здачі, хоча сюжетів, коли люди стають агресорами проти роботів, практично немає. Проте, Американське товариство по запобіганню жорстокому поводженню з роботами (ASPCR) взяло за основу протилежну ідею. Організація була заснована в 1999 році, але до цих пір випереджає час. Організатори не вважають, що роблять щось дивне: «Нездатність визнати права нелюдського ІІ і надати їх йому аналогічна нездатності колонізаторських західних культур визнати гуманність і права неєвропейських народів». Ще на сайті є примітна ремарка про те, що в 1890-х роках, коли було засновано перше товариство захисту тварин, його місія була також висміяна.
ASPCR перестало існувати в 2016 році, але йогооснова, наскільки б жартівливій вона не була, не зникла. Європейський парламент вважає, що ідея про права роботів заслуговує на серйозну увагу. Доповідь від 2016 року, складений Маді Делвой з Люксембургу, розвиває питання про створення нового правового статусу - електронної особистості, щоб так позначити ІІ і роботів. Бути електронної особистістю - значить мати обов'язки і права.
Уявімо, що робот обдурив людини і вкравйого гроші при транзакції. Доповідь пропонує відповідь на питання про те, хто повинен нести відповідальність в такому випадку. Запропоноване рішення полягає в тому, щоб дати роботам юридичну відповідальність. При цьому творці або власники роботів повинні сплачувати страхові внески до державних фондів, щоб у електронних особистостей була можливість покрити витрати.
План заснований на трьох законах робототехніки,які виклав ще письменник-фантаст Айзек Азімов. По-перше, робот не може завдавати шкоди людині. По-друге, робот повинен підкорятися наказам людини, якщо це не веде до заподіяння шкоди іншим людям. По-третє, робот повинен захищати власне існування до тих пір, поки це не завдає шкоди людині. Нарешті, Азімов додав «нульовий», четвертий закон: робот не може нашкодити людству або не діяти так, що в результаті людству буде завдано шкоди.
Зараз необхідність розробки прав роботівздається надуманою, але члени Європарламенту пишуть, що майбутня можлива автономія ставить юридичні питання вже зараз. «У кінцевому рахунку існує ймовірність того, що протягом кількох десятиліть ІІ зможе перевершити інтелектуальні здібності людини і, якщо система не буде підготовлена, поставити під загрозу людську здатність контролювати власне творіння - і, отже, здатність відповідати за свою долю і виживання виду», - йдеться в доповіді. Тому навіть передчасні заходи задають поле для роздумів.
У 2017 році з'явився ще один доповідь EC, вякому, крім іншого, були надані рекомендації від Комісії з цивільно-правовим нормам в галузі робототехніки. Він доповнює все те саме поняття про електронні особистостях, які можуть нести відповідальність за нанесення шкоди. Передбачається, що роботи відповідного статусу можуть приймати самостійні рішення або взаємодіяти з третіми особами, крім своїх творців, самостійно.
Створення нового суб'єкта правовідносин, тимбільше такого незвичайного, може бути лазівкою для виробників, які хочуть піти від відповідальності за шкоду від роботів. Але роботи дійсно беруть на себе все більше повсякденних завдань, деякі з яких бувають небезпечними для оточуючих. І мова не про спецзавдання. Наприклад, дрон може нести коробку і випадково впустити її на голову людини. У людському праві є відповідальність і за бездіяльність: чи може нести її ІІ?
Що відбувається з e-law в Росії?
Російська економіка відстає в роботизації, алезате російське право, навпаки, вживає заходів заздалегідь. Так, ще в кінці 2016 року російський підприємець і засновник Grishin Robotics Дмитро Гришин створив концепцію першого повноцінного окремого закону про робототехніці. Він працював у співавторстві з ІТ-юристом Віктором Наумовим.
Робот - пристрій, здатний діяти, визначати свої дії і оцінювати їх наслідки на основі інформації, що надходить із зовнішнього середовища, без повного контролю з боку людини.
Стаття 3 закону Дмитра Гришина
Концепція Гришина пропонує прирівняти роботавідразу і до тварин, і до юридичних осіб. Хоча автономні машини і не мають почуттів, вони можуть діяти самостійно, а значить, потрапляють в зону дії поняття «відповідальність». Втім, по-справжньому людську відповідальність закон робот не ставить, зате говорить, що для них потрібно створити окремий реєстр, схожий на реєстр юридичних осіб. У роботів можуть бути виробники і власники. Якщо робот спочатку потенційно небезпечний, то відповідальність за його дії лягає на «господаря», а якщо травму людині заподіє робот-пилосос, то платити доведеться виробнику.
Крім того, роботи можуть стати суб'єктами кримінального права, але тільки в чотирьох випадках:
- Робота створили для вчинення протиправних дій.
- Робота перепрограмували для нанесення шкоди людині, відключивши його блок, який відповідає за безпеку при спілкуванні з людиною.
- Робота спочатку створили без цього блоку.
- Робота сконструювали без усвідомлення того, що його можна використовувати на шкоду людині.
Концепція Дмитра Гришина ґрунтується на чотирьохзаконах робототехніки Айзека Азімова, які, як вважає підприємець, до сих пір не втратили актуальності. Також в інтерв'ю автор закону дає приклади роботів, для яких текст буде важливий в першу чергу: безпілотні автомобілі і дрони.
Крім Гришина, робоправо в Росії розвиваєпроект «# ПравоРоботов» .Також створений в кінці 2016 році, проект спрямований на вдосконалення законів в області ІІ, обороту даних і кібербезпеки. Команда займається широким спектром завдань, з яким доводиться стикатися цифрову економіку, коли вона буде побудована.
Не всі російські підприємці налаштованіоптимістично. Гендиректор Alpha Robotic Venture Володимир Білий вважає, що безглуздо створювати окремі закони для машини. По суті, вони були і залишаються інструментами, а за дію інструменту завжди відповідає той, хто ним керує, виробляє.
Проте, офіційна влада тримається курсуна розробку повноцінного законопроекту про робототехніці. Спікер Держдуми В'ячеслав Володін заявляв, що подібний текст з'явиться приблизно в 2022 році. Більше нічого конкретного про робототехніці російська влада не говорила, а прогнозувати щось в 2020-м особливо нелегко.
Читайте також:
Комета NEOWISE видно в Росії. Де її побачити, куди дивитися і як зробити фото
З'ясувалося, що змусило цивілізацію майя покинути свої міста
На 3 день хвороби більшість хворих COVID-19 втрачають нюх і часто страждають нежиттю