Jak to wszystko się zaczęło?
W Unii Europejskiej dyskutuje się nad możliwością wprowadzenia zakazu stosowania sztucznych
W ramach projektu uchwały„W sprawie europejskiego podejścia do sztucznej inteligencji” organ wykonawczy UE proponuje zakazać technologii sztucznej inteligencji wykorzystywanych do „masowej inwigilacji stosowanej w sposób uogólniony wobec wszystkich osób bez żadnego rozróżnienia”. Tekst projektu ustawy szczegółowo opisuje takie metody inwigilacji, jak „monitorowanie i śledzenie osób w środowisku cyfrowym lub fizycznym, a także automatyczne agregowanie i analiza danych osobowych z różnych źródeł” – podaje agencja informacyjna REGNUM.
Komisja Europejska stara się to ogłosićprawa systemów sztucznej inteligencji (AI) wykorzystywanych do „masowej inwigilacji ludzi” w ramach nowych zakazów, które zostaną wprowadzone w przyszłym tygodniu.
Ponadto Komisja Europejska przewiduje zakazydo korzystania z aplikacji sztucznej inteligencji, które naruszają wartości UE lub prawa człowieka. Należą do nich systemy, które manipulują ludzkim zachowaniem i są skierowane do wrażliwych populacji.
Zgodnie z projektem na przykład członkowie UE będą musieli to zrobićutworzyć komitety oceniające w celu testowania i walidacji systemów SI wysokiego ryzyka. Firmy, które opracowują lub sprzedają sztuczną inteligencję, które podlegają ograniczeniom, w tym te z innych krajów świata, mogą zostać ukarane grzywną w wysokości do 4% ich globalnego dochodu.
Czym jest sztuczna inteligencja „wysokiego ryzyka”?
Zgodnie z zaplanowanymi zasadami ci, którzyzamierza zastosować sztuczną inteligencję, będzie musiał ustalić, czy dany przypadek użycia jest „wysokiego ryzyka”, a zatem czy muszą przeprowadzić obowiązkową ocenę wstępną zgodności, czy nie.
Przykłady AI wysokiego ryzyka:
- systemy, które nadają priorytet wysyłaniu służb ratunkowych,
- systemy określające dostęp lub wyznaczanie osób do placówek edukacyjnych,
- algorytmy rekrutacyjne,
- te, które oceniają zdolność kredytową,
- przeprowadzanie indywidualnych ocen ryzyka,
- algorytmy przewidywania przestępstw.
Jaka jest istota rachunku za kontrolę AI?
Wyjaśniamy, co zapewnia nowa ustawa.
Gromadzenie danych o obywatelach korzystających z systemówinwigilacja, monitorowanie sieci społecznościowych, informacji bankowych i innych źródeł – „masowa inwigilacja osób powinna być zabroniona, jeśli jest stosowana w sposób uogólniony wobec wszystkich osób bez rozróżnienia”. Innymi słowy, inwigilacja „selektywna”, jeśli dana osoba ma coś interesującego dla właściwych organów, może być dozwolona, ale inwigilacja całkowita „na wszelki wypadek” będzie prawdopodobnie zakazana w Europie.
Projekt ustawy przewiduje także zakazwprowadzenie systemu ocen społecznych lub kredytów społecznych, w ramach którego gromadzi się szereg dużych danych na temat powiązań, zachowań, zakupów i innych informacji na temat obywateli, a na podstawie całości danych tworzony jest portret społeczny obywatela. Sztuczna inteligencja lub sieci neuronowe również mogą pomóc w rozwiązaniu tego problemu. Uwielbiają to w sektorze bankowym, a Europa nie jest pod tym względem wyjątkiem. Najdalej jednak posunęły się Chiny, tworząc system kredytów społecznych, w którym osobom z niskimi ocenami odmawia się biletów na przejazdy komunikacją międzymiastową, pobytu w określonych obszarach i wprowadza się szereg innych ograniczeń. W artykule zauważono, że takie systemy sztucznej inteligencji mają „dużą szansę na wpływ na czyjeś źródła utrzymania”.
Odnośnie oceny społecznej na rachunkupowiedział: „Systemy SI stosowane do oceny wskaźników społecznych ogólnego przeznaczenia powinny zostać zakazane”. Głosowanie nad ustawą przewidziano na 21 kwietnia. Do tego momentu przedstawiciele Komisji Europejskiej odmawiają komentarza w sprawie niezatwierdzonego dokumentu.
Projekt przewiduje również:
- powiadomienia o interakcji człowieka z AI, chyba że jest to „oczywiste z okoliczności i kontekstu użycia”,
- ocenę systemów wysokiego ryzyka, zanim one wystąpiąuruchomienie, w tym zapewnienie, że systemy te są zrozumiałe dla ludzkich przełożonych i że są przeszkolone w oparciu o zestawy danych „wysokiej jakości” przetestowane pod kątem stronniczości,
- utworzenie „Europejskiej Rady ds. Sztucznej Inteligencji”, składającej się z przedstawicieli wszystkich krajów UE.
Co eksperci myślą o sterowaniu sztuczną inteligencją?
Być może najważniejsza część dokumentuto artykuł zakazujący niektórych zastosowań sztucznej inteligencji, w tym masowego nadzoru i społecznych ratingów kredytowych. Jednak reakcje grup zajmujących się prawami cyfrowymi i ekspertów ds. Polityki mówią, że ta sekcja wymaga ulepszenia.
„Opisy zabronionych sztucznych systemówwywiadowcze są niejasne i zawierają niejasny język, który może stworzyć poważne luki prawne” – wyjaśnia Daniel Leufer, analityk ds. polityki europejskiej w Access Now, w wywiadzie dla The Verge. Ta sekcja, jego zdaniem, jest „daleka od ideału”.
W jaki sposób dokładnie decyduje ustawodawstwo krajoweCzy decyzja AI wyrządziła komuś krzywdę, czy nie? Z drugiej strony zakaz wykorzystania sztucznej inteligencji do celów masowej inwigilacji jest „zbyt łagodny”. Dodaje, że zakaz systemów kredytu społecznego opartych na „rzetelności” również jest zdefiniowany zbyt wąsko. Systemy kredytu społecznego nie muszą oceniać, czy dana osoba jest godna zaufania, aby decydować o kwestiach takich jak uprawnienia do świadczeń.
Na Twitterze Omer Tene, wiceprezesorganizacja non-profit IAPP (Międzynarodowe Stowarzyszenie Specjalistów ds. Prywatności) skomentowała, że orzeczenie „reprezentuje typowe brukselskie podejście do nowych technologii i innowacji. W razie wątpliwości dostosuj się.” Według Tene, jeśli propozycje zostaną przyjęte, stworzy to „rozległy ekosystem regulacyjny”, który przyciągnie nie tylko twórców systemów AI, ale także importerów, dystrybutorów i użytkowników, a także utworzy szereg rad regulacyjnych, zarówno krajowych, jak i; w całej UE.
Jednak ten ekosystem nie będzie pierwszyNadeszła kolej na ograniczenie „Big Tech” – mówi Michael Veale, wykładowca praw i regulacji cyfrowych na University College London. „Koncentruje się przede wszystkim na mniej znanych dostawcach narzędzi biznesowych i decyzyjnych, których praca często wymyka się kontroli organów regulacyjnych lub ich własnych klientów”.
Nie wiadomo, jakie zmiany mogły zostać wprowadzonew tym projekcie wniosku, podczas gdy decydenci UE przygotowują się do oficjalnego ogłoszenia, które odbędzie się 21 kwietnia . Jednakże po zaproponowaniu rozporządzenia będzie ono podlegało zmianom w następstwie informacji zwrotnych od posłów do Parlamentu Europejskiego i będzie musiało zostać wdrożone oddzielnie w każdym państwie narodowym.
Dlaczego potrzebne jest nowe prawo?
O planie uregulowania sztucznej inteligencji dyskutuje się już od jakiegoś czasu.czas. W lutym 2020 r. Komisja Europejska opublikowała białą księgę przedstawiającą plany uregulowania zastosowań sztucznej inteligencji „wysokiego ryzyka”. Choć z nowego projektu nie wynika do końca, w jaki sposób dokładnie będzie określane „wysokie ryzyko”.
Według projektu projektu, głównym celemCelem Komisji jest w tym przypadku zwiększenie zaufania publicznego do sztucznej inteligencji poprzez mechanizmy kontroli i równowagi oparte na wartościach UE. Celem jest stymulowanie przyjęcia tak zwanej „godnej zaufania” i „skoncentrowanej na człowieku” sztucznej inteligencji. Dotyczy to nie tylko aplikacji „wysokiego ryzyka”, ale wszystkich osób mających kontakt z człowiekiem.
Co się stanie, jeśli ustawa zostanie przyjęta?
Jeśli projekt propozycji zostanie zaakceptowany, tak się staniedoprowadzi do zajęcia przez UE zdecydowanego stanowiska w sprawie niektórych zastosowań sztucznej inteligencji. Niektóre zastosowania będą podlegać kontrolom podobnym do unijnych przepisów dotyczących prywatności cyfrowej na mocy przepisów RODO.
Wymagania UE obejmują zapewnieniebezpieczeństwo i zapewnienie stałej dokładności AI -pod warunkiem zgłoszenia „każdego poważnego incydentu lub jakiejkolwiek awarii w działaniu systemu AI, stanowiącej naruszenie obowiązków w stosunku do organu nadzorczego nie później niż do 15 ;dni później dowiedziałem się o tym.
Warto zauważyć, że prowizja uniknęłapropozycje zakazu używania funkcji rozpoznawania twarzy w miejscach publicznych. Według projektu, który wyciekł na początku zeszłego roku, rozważała ten pomysł.
Nie wiadomo, jakie zmiany mogły zostać wprowadzonejest to projekt propozycji, który politycy UE przygotowują do oficjalnego ogłoszenia 21 kwietnia. Jednak po zaproponowaniu rozporządzenia zostanie ono zmienione po otrzymaniu informacji zwrotnych od posłów do Parlamentu Europejskiego i musi zostać wdrożone oddzielnie w każdym państwie narodowym.
To nie pierwszy raz, kiedy Europa mówi o regulacjiprzemysł technologiczny. Tym samym unijne władze chcą zmusić Google i Facebooka do płacenia wydawcom za wiadomości, a na początku roku europejscy politycy wezwali szefów technologicznych gigantów, aby omówić prawa ograniczające ich monopol. Podsumowując, projektowane przepisy przewidują 10-procentową karę dochodową dla gigantów technologicznych w celu ograniczenia ich monopolu.
Czytaj więcej
Powstała pierwsza dokładna mapa świata. Co jest nie tak ze wszystkimi innymi?
NASA poinformowała, w jaki sposób dostarczą próbki Marsa na Ziemię
Silnik do samolotu orbitalnego był testowany w Rosji
Ogólne rozporządzenie o ochronie danych, OgólneOgólne rozporządzenie o ochronie danych (RODO) to rozporządzenie Unii Europejskiej, za pomocą którego Parlament Europejski, Rada Unii Europejskiej i Komisja Europejska wzmacniają i ujednolicają ochronę danych osobowych wszystkich osób fizycznych w Unii Europejskiej (UE). Rozporządzenie ma także na celu eksport danych z UE.
RODO ma przede wszystkim na celu to zapewnićzapewnienie obywatelom kontroli nad ich własnymi danymi osobowymi oraz uproszczenie ram regulacyjnych międzynarodowych stosunków gospodarczych poprzez ujednolicenie przepisów w UE.
System kredytu społecznego („społecznyrating ”,„ system zaufania społecznego ”) - system oceny poszczególnych obywateli lub organizacji według różnych parametrów, których wartości uzyskuje się za pomocą narzędzi masowej obserwacji i technologii analizy dużych zbiorów danych. Po raz pierwszy został wdrożony przez chiński rząd w 2010 roku.