Како је све почело?
Европска унија разматра могућност забране употребе вештачких
У оквиру нацрта резолуције„О европском приступу вештачкој интелигенцији“, извршна власт ЕУ предлаже да се забрани АИ технологије које се користе за „масовни надзор који се примењује на генерализован начин на све појединце без икакве разлике“. У тексту предлога закона детаљно су описани такви начини надзора као што су „надгледање и праћење појединаца у дигиталном или физичком окружењу, као и аутоматско агрегирање и анализа личних података из различитих извора“, преноси агенција РЕГНУМ.
Европска комисија настоји да се изјаснизакона о системима вештачке интелигенције (АИ) који се користе за „масовни надзор људи“ у оквиру нових забрана које ће бити уведене следеће недеље.
Поред тога, Европска комисија предвиђа забранеда користе АИ апликације које крше вредности ЕУ или крше људска права. Ту спадају системи који манипулишу људским понашањем и циљају рањиве популације.
Према нацрту, чланице ЕУ, на пример, мораћестворити комисије за евалуацију за тестирање и валидацију система високог ризика АИ А компаније које развијају или продају уметну интелигенцију подлежу ограничењима, укључујући оне из других земаља света, могу бити кажњене до 4% свог глобалног прихода.
Шта је „високо ризична“ вештачка интелигенција?
Према планираним правилима они којинамерава да примени вештачку интелигенцију, мораће да утврди да ли је одређени случај употребе „висок ризик“ и према томе да ли треба да спроведу обавезну процену усаглашености или не.
Примери високоризичне интелигенције:
- системи који дају приоритет слању хитних служби,
- системи који одређују приступ или именовање људи образовним институцијама,
- алгоритми за регрутовање,
- они који процењују кредитну способност,
- да изврши појединачне процене ризика,
- алгоритми за предвиђање злочина.
Шта је суштина закона о контроли АИ?
Објашњавамо шта пружа нови рачун.
Прикупљање података о грађанима који користе системенадзор, праћење друштвених мрежа, банкарских информација и других извора – &нбсп;„недискриминаторно праћење појединаца треба забранити ако се примењује на све појединце без разлике“. Другим речима, „селективни“ надзор, ако појединац има нешто од интереса за надлежне органе, може бити дозвољен, али ће потпуни надзор „за сваки случај“ вероватно бити забрањен у Европи.
Предлог закона предвиђа и забрануувођење социјалног рејтинга или система социјалног кредитирања, када се на грађанима акумулира низ великих података о везама, понашању, куповини и другим информацијама, а на основу укупности података креира друштвени портрет грађанина. АИ или неуронске мреже такође могу помоћи да се ово схвати. Они воле ово у банкарском сектору, а Европа није изузетак у том погледу. Али Кина је отишла најдаље у стварању система социјалних кредита, где се људима са ниским рејтингом ускраћују карте за међуградски превоз, боравак у одређеним областима и уведена су бројна друга ограничења. Такви системи вештачке интелигенције имају „велике шансе да утичу на нечију егзистенцију“, наводи лист.
Што се тиче социјалног рејтинга у рачунурекао: „Треба забранити системе интелигенције који се користе за процену социјалних показатеља опште намене“. Гласање о овом закону очекује се 21. априла. До овог тренутка, представници Европске комисије одбијају да коментаришу неодобрени документ.
Пројекат такође предвиђа:
- обавештења о људској интеракцији са вештачком интелигенцијом, осим ако је то „очигледно из околности и контекста коришћења“,
- процена система високог ризика пре него што супуштање у рад, укључујући осигурање да су ови системи разумљиви људским надзорницима и да су обучени за скупове података „високог квалитета“ тестираних на пристрасност,
- стварање „Европског савета за вештачку интелигенцију“, који се састоји од представника свих земаља ЕУ.
Шта стручњаци мисле о контроли АИ?
Можда најважнији одељак документаје чланак који забрањује одређену употребу уметне интелигенције, укључујући масовни надзор и рејтинг социјалних кредита. Међутим, реакције на пројекат група за дигитална права и стручњака за политике кажу да овај одељак треба побољшати.
„Описи забрањених вештачких системаобавештајни подаци су нејасни и садрже нејасан језик који може да створи озбиљне рупе у закону“, објашњава Данијел Леуфер, аналитичар европске политике у Аццесс Нов, у интервјуу за Тхе Верге. Овај одељак је, по његовим речима, „далеко од идеалног“.
Како тачно одлучује национално законодавствоДа ли је одлука вештачке интелигенције нанела штету некоме или не? С друге стране, забрана употребе АИ за масовни надзор је „превише блага“. Он додаје да је преуско дефинисана и забрана система социјалних кредита заснованих на „поузданости”. Системи социјалних кредита не морају да процењују да ли је неко од поверења у одлучивању о питањима као што је њихова подобност за бенефиције.
На&нбсп;Твиттеру Омер Тене, потпредседникнепрофитна организација ИАПП (Међународна асоцијација професионалаца за приватност) прокоментарисала је да пресуда „представља типичан бриселски приступ новим технологијама и иновацијама. Када сте у недоумици, прилагодите се." Према Тенеу, ако предлози буду усвојени, створиће се „огромни регулаторни екосистем“ који ће привући не само креаторе АИ система, већ и увознике, дистрибутере и кориснике, и створиће бројне регулаторне одборе, како националне тако и ; широм ЕУ.
Међутим, овај екосистем неће бити првиДошао је ред да се ограничи „велика технологија“, каже Мајкл Вел, предавач дигиталних права и прописа на Универзитетском колеџу у Лондону. „Његов фокус је првенствено на мање познатим добављачима пословања и алата за доношење одлука чији рад често измиче контроли регулатора или сопствених клијената.
Непознато је какве су промене могле бити направљенеу&нбсп;овом нацрту предлога док се креатори политике ЕУ&нбсп; припремају за&нбсп;званично саопштење 21. априла&нбсп;. Међутим, када се пропис предложи, биће подложан променама након повратних информација од посланика и мораће да се примени засебно у свакој држави.
Зашто је потребан нови закон?
План по регулированию ИИ уже обсуждался некоторое време. Европска комисија је још у фебруару 2020. објавила белу књигу у којој су наведени планови за регулисање „високоризичних“ апликација вештачке интелигенције. Иако из новог нацрта није сасвим јасно како ће се тачно одредити „висок ризик“.
Према нацрту, главни циљОвде је циљ Комисије да повећа поверење јавности у вештачку интелигенцију кроз провере и равнотеже засноване на вредностима ЕУ. Циљ је да се стимулише усвајање такозване „поуздане“ и „усредсређене на човека“ АИ. Ово се не односи само на „високоризичне” апликације, већ на све који комуницирају са особом.
Шта ће се догодити ако се закон донесе?
Ако нацрт предлога буде прихваћен, хоћеће резултирати тиме да ЕУ заузме чврст став у вези са одређеним АИ апликацијама. Неке употребе ће бити подвргнуте контролама сличним прописима ЕУ о дигиталној приватности према ГДПР законодавству.
Захтеви ЕУ укључују обезбеђивањебезбедност и&нбсп;обезбеђивање доследне тачности АИ&нбсп;—уз&нбсп;услов пријављивања&нбсп;“сваког озбиљног инцидента или било каквог пропуста у&нбсп;функционисању&нбсп;АИ система који представља кршење обавеза&нбсп;надзорном органу&нбсп; најкасније до&нбсп; ; дана након што је постао свестан овога.
Значајно је да је комисија избеглапредлози за забрану употребе препознавања лица на јавним местима. Према нацрту који је процурио почетком прошле године, она је разматрала ту идеју.
Није познато какве су промене могле бити направљенеово је нацрт предлога док се политичари ЕУ припремају за званично саопштење 21. априла. Међутим, након што се предложи уредба, она ће бити подложна променама након добијања повратних информација од чланова Европског парламента и мора се примењивати одвојено у свакој националној држави.
Ово није први пут да Европа говори о регулацијитехнолошка индустрија. Тако власти ЕУ желе да приморају Гоогле и Фацебоок да плаћају издавачима вести, а почетком године европски политичари позвали су шефове технолошких гиганата да разговарају о законима који ограничавају њихов монопол. По свему судећи, закони који се израђују предвиђаће казну од 10% прихода технолошким гигантима како би ограничили свој монопол.
Опширније
Створена је прва тачна мапа света. Шта није у реду са свима осталима?
НАСА је рекла како ће испоручити узорке Марса на Земљу
Мотор за орбитални авион тестиран је у Русији
Општа уредба о заштити података, ОпштеОпшта уредба о заштити података (ГДПР) је пропис Европске уније којим Европски парламент, Савет Европске уније и Европска комисија јачају и обједињују заштиту личних података свих појединаца у Европској унији (ЕУ). Уредба такође има за циљ&нбсп;извоз података из&нбсп;ЕУ.
ГДПР је првенствено усмерен на то да то обезбедида грађанима омогући контролу над сопственим личним подацима и да поједностави регулаторни оквир за међународне економске односе уједначавањем регулативе унутар ЕУ.
Систем социјалног кредита („социјалнирејтинг “,„ систем социјалног поверења “) - систем за процену појединих грађана или организација према различитим параметрима, чије се вредности добијају помоћу алата за масовно посматрање и помоћу технологије анализе великих података. Кинеска влада га је први пут применила 2010. године.