Kako je sve počelo?
Европейский союз обсуждает возможность запрета на использование искусственного
В рамках проекта постановления «О европейском подходе к искусственному интеллекту» исполнительная власть ЕС предлагает запретить технологии ИИ, которые используются для «массового наблюдения, применяемого в обобщенном виде ко всем физическим лицам без каких-либо различий». В тексте законопроекта подробно описаны такие методы наблюдения, как «мониторинг и отслеживание физических лиц в цифровой или физической среде, а также автоматическое агрегирование и анализ персональных данных из различных источников», — передает ИА REGNUM.
Europska komisija nastoji se izjasnitizakona o sustavima umjetne inteligencije (AI) koji se koriste za "masovni nadzor ljudi" u sklopu novih zabrana koje će biti uvedene idućeg tjedna.
Osim toga, Europska komisija predviđa zabranekoristiti AI aplikacije koje krše vrijednosti EU ili krše ljudska prava. To uključuje sustave koji manipuliraju ljudskim ponašanjem i ciljaju ranjive populacije.
Prema nacrtu, to će morati, primjerice, članice EUstvoriti evaluacijske odbore za testiranje i validaciju visokorizičnih AI sustava. A tvrtke koje razvijaju ili prodaju AI koje podliježu ograničenjima, uključujući one iz drugih zemalja svijeta, mogu biti kažnjene do 4% svog globalnog prihoda.
А что такое искусственный интеллект «высокого риска»?
Prema planiranim pravilima, oni kojinamjerava primijeniti umjetnu inteligenciju, morat će utvrditi je li određeni slučaj uporabe "visoko rizičan" i stoga trebaju li provesti obveznu prethodnu procjenu usklađenosti ili ne.
Primjeri visokorizične AI:
- sustavi koji daju prioritet upućivanju hitnih službi,
- sustavi koji određuju pristup ili imenovanje ljudi u obrazovne ustanove,
- algoritmi za zapošljavanje,
- oni koji ocjenjuju kreditnu sposobnost,
- provesti pojedinačne procjene rizika,
- algoritmi za predviđanje zločina.
Koja je bit kontrolnog zakona AI?
Objašnjavamo što predviđa novi prijedlog zakona.
Сбор данных о гражданах с помощью систем наблюдения, мониторинга социальных сетей, банковской информации и из других источников — «неизбирательное наблюдение за физическими лицами должно быть запрещено, если оно применяется в обобщенном виде ко всем лицам без различия». Иначе говоря, «избирательное» наблюдение, если физическое лицо чем-то заинтересовало компетентные органы, вполне может допускаться, но тотальное слежение «на всякий случай», вероятно, в Европе будет запрещено.
Также законопроектом предусматривается запрет на введение системы социального рейтинга или социального кредитования, когда по гражданам накапливается массив больших данных о связях, поведении, покупках и другой информации, и на основе совокупности данных создается социальный портрет гражданина. В этом также помогают разобраться ИИ или нейронные сети. Подобное любят в банковском секторе, и Европа в этом плане не является исключением. Но дальше всего в создании системы социального кредитования пошли в Китае, где лицам с низким рейтингом отказывают в билетах на междугородний транспорт, в проживании в определенных районах и вводят ряд других ограничений. У таких систем ИИ есть «высокий шанс повлиять на чьи-то средства к существованию», отмечается в документе.
Što se tiče društvenog rejtinga u prijedlogu zakonarekao je: "Sustavi umjetne inteligencije koji se koriste za procjenu društvenih pokazatelja opće namjene trebaju biti zabranjeni." Glasanje o ovom prijedlogu zakona očekuje se 21. travnja. Do sada, predstavnici Europske komisije odbijaju komentirati neodobreni dokument.
Projekt također predviđa:
- уведомления о взаимодействии человека с ИИ, если это не «очевидно из обстоятельств и контекста использования»,
- оценку систем с высоким уровнем риска до их ввода в эксплуатацию, в том числе обеспечение того, чтобы эти системы были понятны для надзирателей-людей и что они прошли обучение на «высококачественных» наборах данных, проверенных на предвзятость,
- создание «Европейского совета по искусственному интеллекту», состоящего из представителей всех стран ЕС.
Što stručnjaci misle o kontroli umjetne inteligencije?
Možda najvažniji dio dokumentaje članak koji zabranjuje određene upotrebe umjetne inteligencije, uključujući masovni nadzor i društvene kreditne rejtinge. Međutim, reakcije na nacrt grupa za digitalna prava i stručnjaka za politiku kažu da se ovaj odjeljak treba poboljšati.
«Описания запрещаемых систем искусственного интеллекта расплывчаты и содержат непонятные формулировки, которые могут создать серьезные лазейки», — объясняет в интервью The Verge Дэниел Леуфер, аналитик европейской политики Access Now. Этот раздел, по его словам, «далек от идеала».
Как именно национальное законодательство решает, было ли решение ИИ причинено кому-то во вред или нет? С другой стороны, запрет на использование ИИ для массового наблюдения «слишком мягок». Он добавляет, что запрет на системы социального кредитования, основанный на «надежности», также определяется слишком узко. Системы социального кредитования не должны оценивать, заслуживает ли кто-то доверия, чтобы решать такие вопросы, как его право на получение пособий.
В Twitter Омер Тене, вице-президент некоммерческой организации IAPP (Международная ассоциация профессионалов в области конфиденциальности), прокомментировал, что это постановление «представляет собой типичный брюссельский подход к новым технологиям и инновациям. Если есть сомнения, регулируйте». По словам Тене, если предложения будут приняты, это создаст «обширную регулирующую экосистему», которая привлечет не только создателей систем ИИ, но также импортеров, дистрибьюторов и пользователей, и создаст ряд регулирующих советов, как национальных, так и по всему ЕС.
Однако эта экосистема не будет в первую очередь ограничивать «большие технологии, — отмечает Майкл Вил, преподаватель цифровых прав и правил в университетском колледже Лондона. — В его поле зрения в первую очередь входят менее известные поставщики инструментов для бизнеса и принятия решений, чья работа часто ускользает от контроля со стороны регуляторов или их собственных клиентов»
Неизвестно, какие изменения могли быть внесены в этот проект предложения, поскольку политики ЕС готовятся к официальному объявлению 21 апреля. Однако после того, как регулирование будет предложено, оно будет подвергаться изменениям после получения отзывов от депутатов Европарламента и должно быть реализовано отдельно в каждом национальном государстве.
Zašto je potreban novi zakon?
План по регулированию ИИ уже обсуждался некоторое время. Еще в феврале 2020 года Европейская комиссия опубликовала официальный документ, в котором излагаются планы регулирования приложений искусственного интеллекта «высокого риска». Хотя из нового проекта не совсем ясно, как именно будет определяться «высокий риск».
Согласно черновику проекта, главной целью Комиссии здесь является повышение общественного доверия к ИИ с помощью систем сдерживания и противовесов, основанных на «ценностях ЕС». Цель — стимулировать внедрение так называемого «заслуживающего доверия» и «ориентированного на человека» ИИ. Это касается не только приложений «высокого риска», но и всех, которые взаимодействующих с человеком.
Što će se dogoditi ako se zakon usvoji?
Если проект предложения будет принят, это приведет к тому, что ЕС займет твердую позицию в отношении определенных приложений ИИ. Некоторые варианты использования будут контролироваться аналогично регулированию цифровой конфиденциальности ЕС в соответствии с законодательством GDPR.
Требования ЕС включают в себя обеспечение безопасности и обеспечение стабильной точности работы ИИ — с условием сообщать о «любых серьезных инцидентах или любом сбое в работе системы ИИ, которое представляет собой нарушение обязательств» надзорному органу не позднее, чем 15 дней после того, как стало известно об этом.
Važno je napomenuti da je komisija izbjeglaprijedlozi za zabranu korištenja prepoznavanja lica na javnim mjestima. Prema nacrtu koji je procurio početkom prošle godine, razmišljala je o toj ideji.
Nije poznato koje su promjene mogle biti napravljeneovo je nacrt prijedloga dok se političari EU pripremaju za službenu objavu 21. travnja. Međutim, nakon što je uredba predložena, bit će podložna promjenama nakon što dobiju povratne informacije od zastupnika u Europskom parlamentu i mora se provoditi zasebno u svakoj nacionalnoj državi.
Ovo nije prvi put da Europa govori o regulacijitehnološka industrija. Tako vlasti EU-a žele natjerati Google i Facebook da plaćaju izdavačima za vijesti, a početkom godine europski političari zvali su čelnike tehnoloških divova kako bi razgovarali o zakonima koji ograničavaju njihov monopol. Prema svemu sudeći, zakoni koji se izrađuju predviđat će kaznu od 10% prihoda za tehnološke divove kako bi ograničili svoj monopol.
Čitaj više
Stvorena je prva točna karta svijeta. Što nije u redu sa svima ostalima?
NASA je rekla kako će dostaviti uzorke Marsa na Zemlju
Motor za orbitalni zrakoplov testiran je u Rusiji
Общий регламент защиты персональных данных, Общий регламент по защите данных (англ. General Data Protection Regulation, GDPR) — постановление Европейского Союза, с помощью которого Европейский парламент, Совет Европейского Союза и Европейская комиссия усиливают и унифицируют защиту персональных данных всех лиц в Европейском Союзе (ЕС). Постановление также направлено на экспорт данных из ЕС.
GDPR направлен прежде всего на то, чтобы дать гражданам контроль над собственными персональными данными, и на упрощение нормативной базы для международных экономических отношений путём унификации регулирования в рамках ЕС.
Sustav društvenih kredita („društveniocjena "," sustav društvenog povjerenja ") - sustav za procjenu pojedinih građana ili organizacija prema različitim parametrima, čije se vrijednosti dobivaju pomoću alata za masovno promatranje i pomoću tehnologije analize velikih podataka. Prvi put ga je implementirala kineska vlada 2010-ih.