З чого все почалося?
Європейський Союз обговорює можливість заборони використання штучного
У рамках проекту ухвали«Про європейський підхід до штучного інтелекту» виконавча влада ЄС пропонує заборонити технології ІІ, які використовуються для «масового спостереження, що застосовується в узагальненому вигляді до всіх фізичних осіб без будь-яких відмінностей». В тексті законопроекту докладно описані такі методи спостереження, як «моніторинг і відстеження фізичних осіб в цифровому або фізичному середовищі, а також автоматичне агрегування і аналіз персональних даних з різних джерел».
Європейська комісія прагне оголосити позазакону системи штучного інтелекту (ІІ), що використовуються для «масового спостереження за людьми» в рамках нових заборон, які будуть введені на наступному тижні.
Крім того, Єврокомісія передбачає заборонина використання додатків ІІ, які порушують цінності Євросоюзу або порушують права людини. До них відносяться системи, які маніпулюють поведінкою людини і націлені на незахищені верстви населення.
Згідно з проектом члени ЄС, наприклад, повинні будутьстворити оціночні комісії для тестування і перевірки систем ІІ з високим ризиком. А компанії, які розробляють або продають ІІ, що підпадають під обмеження, в тому числі з інших країнах світу, можуть бути оштрафовані до 4% їх глобального доходу.
А що таке штучний інтелект «високого ризику»?
Відповідно до запланованих правилами, ті, хтомає намір застосувати штучний інтелект, повинні будуть визначити, чи є конкретний варіант використання «високим ризиком» і, отже, чи потрібно їм проводити обов'язкову попередню оцінку відповідності вимогам чи ні.
Приклади високого ризику ІІ:
- системи, які встановлюють пріоритет в диспетчеризації екстрених служб,
- системи, що визначають доступ або призначення людей в освітні установи,
- алгоритми найму,
- ті, які оцінюють кредитоспроможність,
- для проведення індивідуальних оцінок ризиків,
- алгоритми прогнозування злочинів.
У чому суть законопроекту про контроль ІІ?
Пояснюємо, що передбачає новий законопроект.
Збір даних про громадян за допомогою системспостереження, моніторингу соціальних мереж, банківської інформації та інших джерел — «невиборче спостереження за фізичними особами має бути заборонено, якщо воно застосовується в узагальненому вигляді до всіх осіб без різниці». Інакше кажучи, «виборче» спостереження, якщо фізична особа чимось зацікавила компетентні органи, цілком може допускатися, але тотальне стеження «про всяк випадок», ймовірно, в Європі буде заборонено.
Також законопроектом передбачається заборонавведення системи соціального рейтингу або соціального кредитування, коли по громадянам накопичується масив великих даних про зв'язки, поведінку, покупки та іншу інформацію, і на основі сукупності даних створюється соціальний портрет громадянина. У цьому також допомагають розібратися ІІ або нейронні мережі. Подібне люблять у банківському секторі, і Європа в цьому плані не є винятком. Але далі за все у створенні системи соціального кредитування пішли в Китаї, де особам із низьким рейтингом відмовляють у квитках на міжміський транспорт, у проживання у певних районах та запроваджують низку інших обмежень. У таких систем ІІ є «високий шанс вплинути на чиїсь кошти до існування», наголошується в документі.
З приводу соціального рейтингу в законопроектісказано: «Системи ІІ, використовувані для оцінки соціальних показників загального призначення, повинні бути заборонені». Голосування з цього законопроекту очікується 21 квітня. До цього моменту представники Європейської Комісії відмовляються коментувати незатверджений документ.
Також проект передбачає:
- повідомлення про взаємодію людини з ІІ, якщо це не «очевидно з обставин та контексту використання»,
- оцінку систем з високим рівнем ризику до їхвведення в експлуатацію, у тому числі забезпечення того, щоб ці системи були зрозумілими для наглядачів-людей і що вони пройшли навчання на «високоякісних» наборах даних, перевірених на упередженість,
- створення «Європейської ради з штучного інтелекту», що складається з представників усіх країн ЄС.
Що думають експерти про контроль ІІ?
Можливо, найбільш важливим розділом документає стаття, яка забороняє певні види використання ІІ, включаючи масове спостереження і соціальні кредитні рейтинги. Однак реакції на проект з боку груп по цифровим прав і експертів з політики говорять, що цей розділ необхідно поліпшити.
«Описи заборонених систем штучногоінтелекту розпливчасті і містять незрозумілі формулювання, які можуть створити серйозні лазівки», - пояснює в інтерв'ю The Verge Деніел Леуфер, аналітик європейської політики Access Now. Цей розділ, за його словами, «далекий від ідеалу».
Як саме національне законодавство вирішує,чи було рішення ІІ заподіяно комусь на шкоду чи ні? З іншого боку, заборона на використання для масового спостереження «занадто м'який». Він додає, що заборона на системи соціального кредитування, заснований на надійності, також визначається занадто вузько. Системи соціального кредитування не повинні оцінювати, чи заслуговує хтось на довіру, щоб вирішувати такі питання, як його право на отримання допомоги.
В&Tbіtter Омер Тене, віце-президентнекомерційної організації IAPP (Міжнародна асоціація професіоналів в області конфіденційності), прокоментував, що ця постанова «є типовим брюссельським підходом до нових технологій та інновацій. Якщо є сумніви, регулюйте». За словами Тені, якщо пропозиції будуть прийняті, це створить «широку регулюючу екосистему», яка привабить не тільки творців систем ІІ, але також імпортерів, дистриб'юторів і користувачів, і створить ряд регулюючих і ;з усього ЄС.
Однак ця екосистема не буде в першучергу обмежувати «великі технології», - зазначає Майкл Віл, викладач цифрових прав і правив в університетському коледжі Лондона. — У його зору в першу чергу входять менш відомі постачальники інструментів для бізнесу та прийняття рішень, чия робота часто вислизає від контролю з боку регуляторів або їх власних клієнтів».
Невідомо, які зміни могли бути внесенів цей проект пропозиції, оскільки політики ЄС готуються до офіційного оголошення 21 квітня. Однак після того, як регулювання буде запропоновано, воно буде зазнавати змін після отримання відгуків від депутатів Європарламенту і повинно бути реалізовано окремо в кожній національній державі.
Навіщо потрібен новий закон?
План регулювання ІІ вже обговорювався деякечас. Ще в лютому 2020 року Європейська комісія опублікувала офіційний документ, в якому викладаються плани регулювання додатків штучного інтелекту «високого ризику». Хоча з нового проекту не зовсім зрозуміло, як саме визначатиметься «високий ризик».
Відповідно до чернетки проекту, головною метоюКомісії тут є підвищення суспільної довіри до ІІ за допомогою систем стримування та противаг, заснованих на «цінностях ЄС». Мета стимулювати впровадження так званої «заслуговує на довіру» і «орієнтованої на людину» ІІ. Це стосується не тільки додатків «високого ризику», але й усіх, які взаємодіють з людиною.
Що буде, якщо закон приймуть?
Якщо проект пропозиції буде прийнято, цепризведе до того, що ЄС займе тверду позицію у відношенні певних додатків ІІ. Деякі варіанти використання будуть контролюватись аналогічно регулюванню цифрової конфіденційності ЄС у відповідності до законодавства GDPR.
Вимоги ЄС включають в себе забезпеченнябезпеки та забезпечення стабільної точності роботи ІІ з умовою повідомляти про «будь-які серйозні інциденти або будь-який збій в роботі системи ІІ, яке являє собою порушення зобов'язань» наглядовому органу не пізніше, ніж пізніше, ніж пізніше стало відомо про це.
Примітно, що комісія ухилилася відпропозиції заборонити використання розпізнавання осіб в громадських місцях. Згідно просочилася проекту на початку минулого року, вона розглядала цю ідею.
Невідомо, які зміни могли бути внесені вцей проект пропозиції, оскільки політики ЄС готуються до офіційного оголошення 21 квітня. Однак після того, як регулювання буде запропоновано, воно буде зазнавати змін після отримання відгуків від депутатів Європарламенту і має бути реалізовано окремо в кожному національну державу.
У Європі вже не вперше говорять про регулюваннятехнологічної галузі. Так, влада ЄС хочуть змусити Google і Facebook платити видавцям за новини, а на початку року європейські політики викликали глав техгігантов для обговорення законів, що обмежують їх монополію. Судячи з усього, що розробляються закони будуть передбачати штраф в 10% доходу для технологічних гігантів, щоб обмежити їх монополію.
Читати далі
Створено першу точна карта світу. Що не так з усіма іншими?
У НАСА розповіли, як вони доставлять зразки Марса на Землю
У Росії провели випробування двигуна для орбітального літака
Загальний регламент захисту персональних данихрегламент щодо захисту даних (англ. General Data Protection Regulation, GDPR) — постанова Європейського Союзу, за допомогою якої Європейський парламент, Рада Європейського Союзу та Європейська комісія посилюють і уніфікують захист персональних даних усіх; ЄС). Постанова також спрямована на експорт даних з ЄС.
GDPR спрямований насамперед на те, щобдати громадянам контроль над власними персональними даними, і спрощення нормативної бази для міжнародних економічних відносин шляхом уніфікації регулювання в рамках ЄС.
Система соціального кредиту ( «система соціальногорейтингу »,« система соціального довіри ») - система оцінки окремих громадян або організацій за різними параметрами, значення яких виходять за допомогою інструментів масового спостереження і використовують технологію аналізу великих даних. Вперше почала реалізовуватися урядом Китаю в 2010-х роках.