З чого все почалося?
У вересні 2021 року був оприлюднений новий звіт ООН.Експерти вивчили, як країни та компанії
Вчора глава ООН з прав людини, МішельБачелет, закликала до мораторію на використання технологій штучного інтелекту, які представляють серйозну небезпеку для прав людини. У тому числі систем сканування осіб, які відстежують людей в громадських місцях. Вона зазначила, що країни повинні негайно заборонити додатки ІІ, які не відповідають міжнародним правом в області прав людини.
Де використання ІІ неприпустимо?
До додатків, які слід заборонити,відносяться державні системи «соціальної оцінки», які оцінюють людей за їхньою поведінкою, і певні інструменти на основі ІІ, які поділяють людей на групи, наприклад, за етнічною приналежністю або підлозі.
Технології на основі штучного інтелекту «можуть бути силою добра», а також призвести до «негативних, навіть катастрофічних наслідків», якщо використовувати їх без урахування того, як вони впливаютьправа людини ", - йдеться у заяві Бачелет.
«Справа не у відсутності штучноїінтелекту, - пояснила журналістам Пеггі Хікс, директор з тематичної взаємодії правозахисного центру ООН. Вона звернулася до ЗМІ, коли подала звіт в Женеві. — Йдеться про те, що якщо ІІ буде використовуватися в цих вельми важливих функціональних галузях, пов'язаних з правами людини, то це має бути зроблено правильно. І ми просто ще не&створили структуру, яка забезпечувала б це».
Бачелет не закликала до повної заборонитехнології розпізнавання осіб, але зазначила, що уряди повинні припинити сканувати поведінку людей в режимі реального часу. Наприклад, з метою оцінки ефективності роботи персоналу. Необхідно переконатися, що технологія точна, а ІІ неупереджено і відповідає стандартам конфіденційності та захисту даних.
У звіті також висловлюються побоювання з приводуінструментів, які намагаються визначити емоційний і психічний стан людей шляхом аналізу їх міміки або рухів тіла. Експерти наголошують - такі технології схильні до упередженості, невірної інтерпретації і не мають наукового підґрунтя.
«Використання державною владою системрозпізнавання емоцій, наприклад для виділення осіб для затримання або арешту поліцією або для оцінки правдивості заяв під час допитів, ризикує підірвати права людини, такі як право на недоторканність приватного життя, свободу і справедливість суду », - йдеться в повідомленні.
Де проблема застосування ІІ стоїть особливо гостро?
Хоча назви конкретних країн у звітіНе згадуються, варто згадати Китай. Нагадаємо, у травні влада запустила в західному регіоні Сіньцзян програму тестування на уйгурах камери розпізнавання емоцій. І розпізнавання самих уйгурів. Нагадаємо, Human Rights Watch ще в 2018 році опублікувала доповідь про переслідування мусульманського населення китайського регіону Сіньцзян. За даними організації, останніми роками там масово і часто безпідставно затримують уйгурів, поміщаючи їх у в'язниці та виховні табори; за мільйонами людей організовано постійне відеостеження, які соціальне становище і доля залежить від балів, нарахованих у системі «соціального кредиту».
Тим не менш, ключові автори звіту заявили, що найменування конкретних країн не входить до їх повноважень і навіть може бути контрпродуктивним.
«У китайському контексті, які в інших контекстах, ми стурбовані прозорістю і дискримінаційними додатками, які адресовані конкретним спільнотам», - пояснює представниця ООН Пеггі Хікс.
Вона процитувала кілька судових справ в США і Австралії, де неправильно застосовувався штучний інтелект.
Один з найгучніших прецедентів в США -ситуація з Amazon. Ця корпорація є одним з центрів розробок в області штучного інтелекту. У 2017 році компанія закрила експериментальний проект по найму співробітників на основі ІІ, який вела близько трьох років. Однією з ключових проблем стала гендерна дискримінація кандидатів - алгоритм занижував оцінки кандидатів-жінок.
Тим часом, в Австралії суд створив новаторськийпрецедент. Тепер системи штучного інтелекту можуть бути юридично визнані винахідниками в патентних заявках. Однак з таким рішенням погодилися не всі.
Що в підсумку?
Рекомендації звіту відображають погляди багатьохполітичних лідерів в західних демократичний країнах. Важливо не тільки задіяти економічний і соціальний потенціал ІІ, а й усунути зростаючу стурбованість з приводу надійності інструментів, які відстежують і профилируют людей.
Міністр торгівлі США Джина Раймондо під часвіртуальної конференції в червні підтримала побоювання представників ООН. «Страшно подумати, як можна використовувати для подальшого посилення дискримінаційних тенденцій, - підкреслила вона сказала - Ми повинні переконатися, що не допустимо цього».
Так, європейські регулюючі органи вжезробили кроки, щоб приборкати найбільш ризиковані додатки штучного інтелекту. Пропоновані правила, викладені офіційними особами Європейського союзу в цьому році, будуть забороняти деякі види використання ІІ, такі як сканування рис обличчя в реальному часі, і жорстко контролювати інші види використання, які можуть загрожувати безпеці або прав людей.
Читати далі
Унікальний катер перетворюється в підводний човен за дві хвилини і непомітний для противника
Фізики охолодили атоми до найнижчої в світі температури
Найдетальнішу модель Всесвіту опублікували онлайн. Її може вивчити будь-який бажаючий