Как започна всичко?
В Европейския съюз се обсъжда възможността за забрана на използването на изкуствени
Като част от проекторезолюцията„Относно европейския подход към изкуствения интелект“ изпълнителният директор на ЕС предлага да се забранят технологиите за изкуствен интелект, които се използват за „масово наблюдение, прилагано по общ начин към всички лица без никакво разграничение“. Текстът на законопроекта описва подробно такива методи за наблюдение като „мониторинг и проследяване на лица в цифрова или физическа среда, както и автоматично събиране и анализ на лични данни от различни източници“, съобщава агенция REGNUM.
Европейската комисия се опитва да обявина закона за изкуствения интелект (ИИ), използвани за "масово наблюдение на хората" като част от новите забрани, които ще бъдат въведени следващата седмица.
Освен това Европейската комисия предвижда забранида използвате приложения за изкуствен интелект, които нарушават ценностите на ЕС или нарушават правата на човека. Те включват системи, които манипулират човешкото поведение и са насочени към уязвими групи от населението.
Според проекта членовете на ЕС например ще трябвасъздаване на комисии за оценка, които да тестват и валидират високорискови системи за ИИ. А компаниите, които разработват или продават изкуствен интелект, които са обект на ограничения, включително тези от други страни по света, могат да бъдат глобени до 4% от техния глобален доход.
Какво е „високорисков” изкуствен интелект?
Според планираните правила тези, коитовъзнамерява да приложи изкуствен интелект, ще трябва да определи дали даден случай на употреба е "висок риск" и следователно дали те трябва да проведат задължителна оценка за предварително съответствие или не.
Примери за високорисков ИИ:
- системи, които дават приоритет на изпращането на спешни служби,
- системи, които определят достъпа или назначаването на хора до образователни институции,
- алгоритми за набиране,
- тези, които оценяват кредитоспособността,
- за извършване на индивидуални оценки на риска,
- алгоритми за предсказване на престъпления.
Каква е същността на законопроекта за контрол на ИИ?
Обясняваме какво предлага новият законопроект.
Събиране на данни за граждани, използващи системинаблюдение, наблюдение на социални мрежи, банкова информация и други източници - „безразборното наблюдение на лица трябва да бъде забранено, ако се прилага по общ начин към всички лица без разграничение.“ С други думи, „селективното“ наблюдение, ако дадено лице има нещо, което представлява интерес за компетентните органи, може да бъде разрешено, но пълното наблюдение „за всеки случай“ вероятно ще бъде забранено в Европа.
Законопроектът предвижда и забрана завъвеждане на система за социален рейтинг или социално кредитиране, когато се натрупва масив от големи данни за връзки, поведение, покупки и друга информация за гражданите и се създава социален портрет на гражданина въз основа на съвкупността от данни. AI или невронните мрежи също могат да помогнат да разберем това. Те харесват това в банковия сектор и Европа не прави изключение в това отношение. Но Китай стигна най-далеч в създаването на социална кредитна система, където на хората с нисък рейтинг се отказват билети за междуградски транспорт, пребиваване в определени райони и се въвеждат редица други ограничения. Такива AI системи имат „голям шанс да повлияят на нечие препитание“, отбелязва вестникът.
Относно социалния рейтинг в законопроектаказа: „Системите за изкуствен интелект, използвани за оценка на социалните показатели с общо предназначение, трябва да бъдат забранени“. Гласуването по този законопроект се очаква на 21 април. До този момент представители на Европейската комисия отказват да коментират неодобрения документ.
Проектът също така предвижда:
- известия за човешко взаимодействие с AI, освен ако не е „очевидно от обстоятелствата и контекста на употребата“,
- оценка на високорисковите системи, преди те да бъдатвъвеждане в експлоатация, включително гарантиране, че тези системи са разбираеми за човешките надзорници и че те са обучени на „висококачествени“ набори от данни, тествани за пристрастия,
- създаване на „Европейски съвет по изкуствен интелект“, състоящ се от представители на всички страни от ЕС.
Какво мислят експертите за контрола на ИИ?
Може би най-важният раздел на документае статия, която забранява определени употреби на ИИ, включително масово наблюдение и социални кредитни рейтинги. Реакциите на проекта от групи за правата на цифрови права и експерти по политиката обаче казват, че този раздел трябва да се подобри.
„Описания на забранени изкуствени системиразузнавателните данни са неясни и съдържат неясен език, който може да създаде сериозни вратички“, обяснява Даниел Лойфър, европейски политически анализатор в Access Now, в интервю за The Verge. Този участък, по думите му, е „далеч от идеалния“.
Как точно решава националното законодателствоРешението на AI причини ли е вреда на някого или не? От друга страна, забраната за използване на AI за масово наблюдение е „твърде снизходителна“. Той добавя, че забраната за социални кредитни системи, основани на „надеждност“, също е дефинирана твърде тясно. Системите за социално кредитиране не трябва да оценяват дали някой заслужава доверие, за да решава въпроси като допустимостта му за обезщетения.
В Twitter Омер Тене, вицепрезидентОрганизация с нестопанска цел IAPP (Международна асоциация на специалистите по защита на личните данни), коментира, че решението „представлява типичен брюкселски подход към новите технологии и иновациите. Когато се съмнявате, коригирайте." Според Тене, ако предложенията бъдат приети, това ще създаде „обширна регулаторна екосистема“, която ще привлече не само създателите на AI системи, но и вносители, дистрибутори и потребители, и ще създаде редица регулаторни съвети, както национални, така и ; в целия ЕС.
Тази екосистема обаче няма да е първатаРед е да ограничим „Големите технологии“, казва Майкъл Вийл, преподавател по цифрови права и разпоредби в University College London. „Фокусът му е предимно върху по-малко известни доставчици на инструменти за бизнес и вземане на решения, чиято работа често се изплъзва от контрола на регулаторите или собствените им клиенти.“
Не е известно какви промени може да са направенив това проектопредложение, тъй като политиците на ЕС се подготвят за официално обявяване на 21 април. Въпреки това, след като бъде предложен регламент, той ще подлежи на промени след обратна връзка от евродепутатите и ще трябва да се прилага отделно във всяка национална държава.
Защо е необходим нов закон?
Вече известно време се обсъжда план за регулиране на ИИ.време. Още през февруари 2020 г. Европейската комисия публикува бяла книга, очертаваща планове за регулиране на „високорисковите“ приложения с изкуствен интелект. Въпреки че от новия проект не става съвсем ясно как точно ще се определя „висок риск“.
Според проекта на проекта основната целЦелта на Комисията тук е да повиши общественото доверие в ИИ чрез проверки и баланси, основани на ценностите на ЕС. Целта е да се стимулира приемането на така наречения „достоверен“ и „ориентиран към човека“ AI. Това се отнася не само за „високорисковите“ приложения, но и за всички, които взаимодействат с човек.
Какво ще стане, ако законът бъде приет?
Ако проектопредложението бъде прието, това ще станеще доведе до това ЕС да заеме силна позиция по отношение на определени приложения на ИИ. Някои употреби ще подлежат на контрол, подобен на регламента на ЕС за дигиталната поверителност съгласно законодателството на GDPR.
Изискванията на ЕС включват гарантиранебезопасност и осигуряване на постоянна точност на AI —с условието за докладване „всички сериозни инциденти или всякакви повреди в работата на AI системата, които представляват нарушение на задълженията на надзорния орган не по-късно от 15 ;дни след като разбра за това.
Прави впечатление, че комисията избягвапредложения за забрана на използването на разпознаване на лица на обществени места. Според изтекъл проект в началото на миналата година тя обмисля идеята.
Не е известно какви промени може да са направенитова е проект на предложение, докато политиците от ЕС се подготвят за официалното съобщение на 21 април. След като обаче регламентът бъде предложен, той ще подлежи на промяна след получаване на обратна връзка от евродепутатите и трябва да се прилага поотделно във всяка национална държава.
Това не е първият път, в който Европа говори за регулиранетехнологична индустрия. По този начин властите в ЕС искат да принудят Google и Facebook да плащат на издателите за новини, а в началото на годината европейските политици призоваха ръководителите на технологични гиганти да обсъдят закони, ограничаващи монопола им. По всички сметки законопроектите, които се изготвят, ще предвиждат 10% наказание за приходите на технологичните гиганти, за да ограничат монопола си.
Прочетете още
Създадена е първата точна карта на света. Какво не е наред с всички останали?
НАСА разказа как ще доставят проби от Марс на Земята
Двигател за орбитален самолет беше тестван в Русия
Общ регламент за защита на данните, общОбщият регламент за защита на данните (GDPR) е регламент на Европейския съюз, чрез който Европейският парламент, Съветът на Европейския съюз и Европейската комисия укрепват и уеднаквяват защитата на личните данни на всички лица в Европейския съюз (ЕС). Регламентът има за цел и износ на данни от ЕС.
GDPR има за цел основно да гарантира товада се даде на гражданите контрол върху собствените им лични данни и да се опрости регулаторната рамка за международните икономически отношения чрез уеднаквяване на регулирането в рамките на ЕС.
Системата за социален кредит ("социалнатарейтинг "," система на социално доверие ") - система за оценка на отделни граждани или организации по различни параметри, стойностите на които се получават с помощта на инструменти за масово наблюдение и с помощта на технология за анализ на големи данни. За първи път е приложена от китайското правителство през 2010-те.