Jak to všechno začalo?
Evropská unie projednává možnost zákazu používání umělých
V rámci návrhu usnesení„O evropském přístupu k umělé inteligenci“ navrhuje exekutiva EU zakázat technologie AI, které se používají pro „hromadné sledování aplikované všeobecným způsobem na všechny jednotlivce bez jakéhokoli rozdílu“. Text návrhu zákona podrobně popisuje takové metody sledování, jako je „monitorování a sledování osob v digitálním nebo fyzickém prostředí, stejně jako automatické shromažďování a analýza osobních údajů z různých zdrojů,“ uvádí agentura REGNUM.
Evropská komise se snaží o prohlášenízákona o systémech umělé inteligence (AI) používaných k „hromadnému sledování lidí“ jako součást nových zákazů, které budou zavedeny příští týden.
Evropská komise navíc stanoví zákazypoužívat aplikace AI, které porušují hodnoty EU nebo porušují lidská práva. Patří mezi ně systémy, které manipulují s lidským chováním a zaměřují se na zranitelné populace.
Podle návrhu budou muset například členové EUvytvářet hodnotící výbory pro testování a ověřování vysoce rizikových systémů AI. A společnostem, které vyvíjejí nebo prodávají umělou inteligenci, na které se vztahují omezení, včetně společností z jiných zemí světa, může být uložena pokuta až do výše 4% jejich globálního příjmu.
Co je to „vysoce riziková“ umělá inteligence?
Podle plánovaných pravidel ti, kteřízamýšlí použít umělou inteligenci, bude muset určit, zda je konkrétní případ použití „vysoce rizikový“, a tedy zda musí provést povinné posouzení předběžné shody či nikoli.
Příklady vysoce rizikové AI:
- systémy, které upřednostňují dispečink pohotovostních služeb,
- systémy, které určují přístup nebo jmenování lidí do vzdělávacích institucí,
- náborové algoritmy,
- ti, kteří posuzují bonitu,
- provádět individuální hodnocení rizik,
- algoritmy pro předpovídání zločinů.
Co je podstatou kontrolního účtu za AI?
Vysvětlíme, co nový zákon poskytuje.
Sběr dat o občanech pomocí systémůsledování, sledování sociálních sítí, bankovních informací a dalších zdrojů – „nevybíravé sledování jednotlivců by mělo být zakázáno, pokud je aplikováno obecně na všechny jednotlivce bez rozdílu.“ Jinými slovy, „selektivní“ sledování, pokud má jednotlivec něco zajímavého pro příslušné orgány, může být dobře povoleno, ale úplné sledování „pro všechny případy“ bude pravděpodobně v Evropě zakázáno.
Návrh zákona také stanoví zákazzavedení systému sociálního hodnocení nebo sociálního kreditování, kdy se o občanech shromažďuje řada velkých dat o spojeních, chování, nákupech a dalších informacích a na základě souhrnu dat se vytváří sociální portrét občana. AI nebo neuronové sítě mohou také pomoci zjistit to. V bankovním sektoru to milují a Evropa v tomto ohledu není výjimkou. Nejdále ale došla Čína ve vytváření systému sociálních kreditů, kde jsou lidem s nízkým hodnocením odepřeny jízdenky na meziměstskou dopravu, pobyt v určitých oblastech a zavádí se řada dalších omezení. Takové systémy umělé inteligence mají „velkou šanci ovlivnit něčí živobytí,“ uvádí list.
Pokud jde o sociální hodnocení v návrhu zákonařekl: „Systémy umělé inteligence používané k hodnocení sociálních indikátorů obecného účelu by měly být zakázány.“ Hlasování o tomto návrhu zákona se očekává 21. dubna. Do této chvíle zástupci Evropské komise odmítají neschválený dokument komentovat.
Projekt rovněž stanoví:
- oznámení o lidské interakci s AI, pokud to není „zřejmé z okolností a kontextu použití“,
- posouzení vysoce rizikových systémů dříve, než k nim dojdeuvedení do provozu, včetně zajištění toho, aby tyto systémy byly srozumitelné lidským nadřízeným a aby byli vyškoleni v „vysoce kvalitních“ souborech dat testovaných na zkreslení,
- vytvoření „Evropské rady pro umělou inteligenci“, složené ze zástupců všech zemí EU.
Co si odborníci myslí o ovládání AI?
Snad nejdůležitější část dokumentuje článek, který zakazuje určitá použití AI, včetně hromadného sledování a sociálních úvěrových hodnocení. Reakce na projekt od skupin pro digitální práva a odborníků na politiku však tvrdí, že tuto část je třeba vylepšit.
„Popisy zakázaných umělých systémůinformace jsou vágní a obsahují nejasný jazyk, který může vytvořit vážné mezery,“ vysvětluje Daniel Leufer, analytik evropské politiky společnosti Access Now, v rozhovoru pro The Verge. Tato sekce má podle jeho slov „daleko od ideálu“.
Jak přesně rozhoduje národní legislativaZpůsobilo rozhodnutí AI někomu škodu nebo ne? Na druhou stranu je zákaz používání AI pro hromadné sledování „příliš mírný“. Dodává, že zákaz sociálních kreditních systémů založených na „spolehlivosti“ je také definován příliš úzce. Systémy sociálních kreditů nepotřebují posuzovat, zda je někdo důvěryhodný, aby rozhodoval o otázkách, jako je jeho nárok na dávky.
Na Twitteru Omer Tene, viceprezidentnezisková organizace IAPP (International Association of Privacy Professionals) uvedla, že rozsudek „představuje typický bruselský přístup k novým technologiím a inovacím. V případě pochybností se upravte." Pokud budou návrhy přijaty, podle Teneho to vytvoří „rozsáhlý regulační ekosystém“, který přitáhne nejen tvůrce systémů umělé inteligence, ale také dovozce, distributory a uživatele, a vytvoří řadu regulačních rad, jak národních, tak ; v celé EU.
Tento ekosystém však nebude prvníJe řada na omezení „Big Tech“, říká Michael Veale, lektor digitálních práv a předpisů na University College London. "Zaměřuje se především na méně známé poskytovatele obchodních a rozhodovacích nástrojů, jejichž práce často uniká kontrole regulátorů nebo jejich vlastních klientů."
Není známo, jaké změny mohly být provedenyv tomto předběžném návrhu, když se politici EU připravují na oficiální oznámení dne 21. dubna . Jakmile však bude nařízení navrženo, bude podléhat změnám na základě zpětné vazby od poslanců Evropského parlamentu a bude muset být implementováno samostatně v každém národním státě.
Proč je zapotřebí nový zákon?
O plánu regulace umělé inteligence se již nějakou dobu diskutuje.čas. V únoru 2020 zveřejnila Evropská komise bílou knihu, která nastiňuje plány na regulaci „vysoce rizikových“ aplikací umělé inteligence. I když z nového návrhu není zcela jasné, jak přesně bude „vysoké riziko“ určeno.
Podle draftu hlavní cílCílem Komise je zde zvýšit důvěru veřejnosti v AI prostřednictvím kontrol a protivah založených na hodnotách EU. Cílem je stimulovat přijetí takzvané „důvěryhodné“ a „na člověka zaměřené“ AI. To se netýká pouze „vysoce rizikových“ aplikací, ale všech, kteří přicházejí do styku s osobou.
Co se stane, pokud bude zákon přijat?
Pokud bude návrh přijat, budepovede k tomu, že EU zaujme k některým aplikacím umělé inteligence silnou pozici. Některá použití budou podléhat kontrolám podobným regulaci digitálního soukromí EU podle legislativy GDPR.
Mezi požadavky EU patří zajištěníbezpečnost a zajištění konzistentní přesnosti AI —s podmínkou nahlášení „jakýchkoli závažných incidentů nebo jakéhokoli selhání v provozu systému AI, které představuje porušení povinností dozorovému orgánu nejpozději do 15 ; dní poté, co se o tom dozvěděl.
Je pozoruhodné, že se komise vyhnulanávrhy na zákaz používání rozpoznávání obličeje na veřejných místech. Podle uniklého návrhu počátkem loňského roku tuto myšlenku zvažovala.
Není známo, jaké změny mohly být provedenytoto je návrh, jelikož politici EU se připravují na oficiální oznámení 21. dubna. Jakmile však bude nařízení navrženo, bude podléhat změnám po obdržení zpětné vazby od poslanců a musí být provedeno samostatně v každém národním státě.
Není to poprvé, co Evropa hovoří o regulacitechnologický průmysl. Orgány EU tak chtějí přinutit Google a Facebook, aby platily vydavatelům za zprávy, a na začátku roku evropští politici zavolali vedoucí technologických gigantů, aby diskutovali o zákonech omezujících jejich monopol. Připravované zákony budou podle všech stanovovat pokutu 10% pro technologické giganty, aby se omezil jejich monopol.
Přečtěte si více
Byla vytvořena první přesná mapa světa. Co se děje s ostatními?
NASA řekla, jak budou dodávat vzorky Marsu na Zemi
Motor pro orbitální letadlo byl testován v Rusku
Obecné nařízení o ochraně osobních údajů, ObecnéGeneral Data Protection Regulation (GDPR) je nařízení Evropské unie, kterým Evropský parlament, Rada Evropské unie a Evropská komise posilují a sjednocují ochranu osobních údajů všech fyzických osob v Evropské unii (EU). Nařízení má za cíl i export dat z EU.
GDPR je zaměřeno především na to, aby to bylo zajištěnoposkytnout občanům kontrolu nad jejich vlastními osobními údaji a zjednodušit regulační rámec pro mezinárodní hospodářské vztahy sjednocením regulace v rámci EU.
Systém sociálního kreditu ("sociální„systém sociální důvěry“) - systém pro hodnocení jednotlivých občanů nebo organizací podle různých parametrů, jejichž hodnoty jsou získávány pomocí nástrojů hromadného pozorování a pomocí technologie analýzy velkých dat. Poprvé byla implementována čínskou vládou v roce 2010.