Цифровізацію не зупинити
Цифровізація міст лише набирає обертів. Вже нікого не дивують
Це дуже зручно:Для проходу в метро достатньо подивитися в камеру, не потрібно діставати гаманець, смартфон або банківську картку. Але у скептиків нові технології викликають побоювання. Вони вважають, що довіряти перевірку та аналіз біометричних даних штучному інтелекту та сторонньому провайдеру дуже небезпечно. Невідомо, в чиїх руках вони опиняться і як їх можна використати проти самого власника, раптом хтось візьме кредит під виглядом іншої людини або вчинить злочин, скориставшись біометричними даними. Письменники йдуть ще далі і попереджають про ще більші неприємності: а раптом ІІ підніметься і почне полювати на людей, вистежуючи їх по сітківці ока, сканованої в метро. Але експерти зазначають, що загроза штучного інтелекту в масовій свідомості дуже перебільшена.
Неможливий бунт машин
«Інтелект» у терміні ІІ – маркетинговеперебільшення. Математично чітких критеріїв того, що вважати розумом, досі немає, але більшість біологів та філософів сходяться на тому, що інтелект – це здатність успішно вирішувати нетривіальні завдання. На вищому рівні — самостійно ставити перед собою завдання, що не зустрічалися, і вирішувати їх. Ніяка комп'ютерна система в найближчому майбутньому на це здатна не буде. Ніхто ніколи не ставив за мету створити так званий сильний ІІ (Strong AI), тому що потенційний економічний ефект від такої розробки менший від необхідних для неї коштів.
Вже сьогодні ІІ вміє розпізнавати особи, вишукуючи характерні риси
Сьогодні під ІІ де-факто розуміють різніреалізації систем машинного навчання Вони вміють знаходити закономірності між даними та розпізнавати образи. Наприклад, трирічна дитина впевнено відрізняє на фото кішку від собаки. Того ж досягне і нейромережа, коли їй «годують» кілька десятків тисяч знімків, частина яких буде коректно підписана «кішка», а частина «собака». Вже сьогодні ІІ вміє розпізнавати особи, вишукуючи характерні риси, і робить це з точністю в 96–98% — таких результатів можна досягти, навіть якщо люди мають стандартні медичні маски.
Довіряй, але кому?
Що відбувається після того, як машинаідентифікує людину? Це залежить від тих, хто програмував систему та ставив ІТ-фахівцям завдання. Можна використовувати прив'язку ототожненої людини до бази даних і відкрити перед ним турнікет метро, списавши з рахунку суму за прохід. Можна співвіднести його біометрію з іншою базою — і, поставивши синтезованим голосом питання «Ви дійсно хочете взяти цей кредит?», дочекатися відповіді «Так» і переказати на його обумовлену суму. У будь-якому випадку наступні за розпізнаванням особи рішення не приймає ІІ сам по собі, вони залежать від алгоритмів, реалізованих живими програмістами.
китайська система «соціального, що створила резонанскредиту» — це лише велика база даних (точніше, кілька розрізнених баз), де кожному зареєстрованому громадянину, підприємства чи держустанові ставиться умовний бал. «Хороша» поведінка виявляється у зростанні цього балу, «погана» — у його зниженні.
Така система може діяти автоматично:вона розпізнає обличчя людини в потоці і тут або дозволяє, або забороняє йому виконувати якісь дії: наприклад, оформити кредит, купити авіаквиток. Але самі правила, за якими машина ухвалює те чи інше рішення, визначаються людьми. Аналогічні системи меншого масштабу працюють у безлічі корпорацій, необов'язково китайських, і найчастіше реакції їх у одне й те дію кардинально різняться через різних підходів розробників.
Сама по собі біометрія на основі ІІ не хороша іне погана. Технічно немає жодної різниці між масштабними каталогами докомп'ютерної ери (у 1944 році картотека ФБР налічувала 23 млн карток) та біометричними базами даних сучасності. Комп'ютер знаходить потрібну інформацію незрівнянно швидше за людину - ось чому миттєве розпізнавання по обличчю в натовпі шокує обивателя. Але це лише психологічний ефект, а реальні наслідки дій цифрової системи визначає те, як звертатимуться з отриманими нею даними люди, які мають до них доступ.
Втім, немає підстав побоюватися тотальноїзаміни живої людини його «цифровим двійником» - тим самим записом у комп'ютерній базі даних. Одна річ, коли хтось із низьким рівнем соціального кредиту копошиться у дальньої полиці в магазині: алгоритм контролю за поведінкою людей у торговому залі, отримавши сигнал від відеокамери з розпізнаванням образів, зіставить особу відвідувача з поліцейською базою і видасть охороні рекомендацію підійти до підозрілої особи. Але зовсім інше — коли соціальний кредит людини раптово обнулюється: або через комп'ютерну помилку, або через чиїсь зловмисні дії.
Технології штучного інтелекту продовжать розвиватися: спроби зупинити прогрес безглузді
Розробники по всьому світу хочуть створити надійнийі перевіряється ІІ, логічні «розумування» якого у процесі прийняття рішень фіксуються у вигляді і доступні для верифікації оператором-человеком. Суспільство розпочало формування єдиних критеріїв етичності дій штучного інтелекту: можна згадати російський кодекс етики ІІ або схожий за духом законопроект Євросоюзу. Вони дозволять знизити ймовірність появи помилок чи реалізації злого наміру під час поводження з «цифровими двійниками».
Технології штучного інтелекту продовжатьрозвиватися: спроби зупинити прогрес безглузді. Суспільству слід лише подбати про те, щоб зручні та корисні цифрові інструменти застосовувалися на користь та ставали засобом не тотального алгоритмізованого контролю, а збільшення комфорту та безпеки.
Читати далі
«П'ятий елемент» існує: новий експеримент підтвердить, що інформація є матеріальною
Жахливі звуки та загадкові істоти: найдивніші знахідки у Маріанській западині
Подивіться на якісний знімок Сонця: він складається з 83 млн пікселів