Ako sa to všetko začalo?
Európska únia rokuje o možnosti zakázať používanie umelých
V rámci návrhu uznesenia„O európskom prístupe k umelej inteligencii,“ exekutíva EÚ navrhuje zakázať technológie umelej inteligencie, ktoré sa používajú na „hromadné sledovanie aplikované všeobecným spôsobom na všetkých jednotlivcov bez akéhokoľvek rozdielu“. Text návrhu zákona podrobne popisuje také metódy sledovania, ako je „monitorovanie a sledovanie jednotlivcov v digitálnom alebo fyzickom prostredí, ako aj automatická agregácia a analýza osobných údajov z rôznych zdrojov,“ uvádza tlačová agentúra REGNUM.
Európska komisia sa snaží o vyhláseniezákona o systémoch umelej inteligencie (AI) používaných na „hromadný dohľad nad ľuďmi“ ako súčasť nových zákazov, ktoré budú zavedené budúci týždeň.
Európska komisia navyše stanovuje zákazypoužívať aplikácie umelej inteligencie, ktoré porušujú hodnoty EÚ alebo ľudské práva. Patria sem systémy, ktoré manipulujú s ľudským správaním a zameriavajú sa na zraniteľné populácie.
Podľa návrhu budú musieť napríklad členovia EÚvytvoriť hodnotiace výbory na testovanie a validáciu vysoko rizikových systémov umelej inteligencie. A spoločnosti, ktoré vyvíjajú alebo predávajú AI, na ktoré sa vzťahujú obmedzenia, vrátane spoločností z iných krajín sveta, môžu dostať pokutu až do výšky 4% ich globálneho príjmu.
Čo je to „vysokoriziková“ umelá inteligencia?
Podľa plánovaných pravidiel tí, ktorízamýšľa použiť umelú inteligenciu, bude musieť zistiť, či je konkrétny prípad použitia „vysoko rizikový“, a teda či je potrebné vykonať povinné posúdenie predbežného zhody alebo nie.
Príklady vysoko rizikovej AI:
- systémy, ktoré uprednostňujú dispečing pohotovostných služieb,
- systémy, ktoré určujú prístup alebo menovanie ľudí do vzdelávacích inštitúcií,
- náborové algoritmy,
- tí, ktorí hodnotia dôveryhodnosť,
- vykonať individuálne posúdenia rizika,
- algoritmy na predpovedanie trestných činov.
Aká je podstata zákona o kontrole AI?
Vysvetľujeme, čo poskytuje nový zákon.
Zber údajov o občanoch pomocou systémovsledovanie, monitorovanie sociálnych sietí, bankových informácií a iných zdrojov - „nerozlišujúce sledovanie jednotlivcov by malo byť zakázané, ak sa aplikuje zovšeobecnene na všetkých jednotlivcov bez rozdielu.“ Inými slovami, „selektívny“ dohľad, ak má jednotlivec niečo zaujímavé pre príslušné orgány, môže byť dobre povolený, ale úplný dohľad „pre každý prípad“ bude v Európe pravdepodobne zakázaný.
Návrh zákona počíta aj so zákazomzavedenie systému sociálneho hodnotenia alebo sociálneho kreditovania, keď sa o občanoch zhromažďuje množstvo veľkých údajov o spojeniach, správaní, nákupoch a iných informáciách a na základe súhrnu údajov sa vytvára sociálny portrét občana. AI alebo neurónové siete môžu tiež pomôcť zistiť to. V bankovom sektore to milujú a Európa v tomto smere nie je výnimkou. Najďalej však zašla Čína pri vytváraní systému sociálnych kreditov, kde sú ľuďom s nízkym hodnotením odopierané lístky na medzimestskú dopravu, pobyt v určitých oblastiach a zavádza sa množstvo ďalších obmedzení. Takéto systémy AI majú „veľkú šancu ovplyvniť niečí živobytie,“ poznamenáva papier.
Pokiaľ ide o sociálne hodnotenie vo vyhláškeuviedol: „Systémy umelej inteligencie používané na hodnotenie sociálnych ukazovateľov všeobecného účelu by mali byť zakázané.“ Hlasovanie o tomto návrhu zákona sa očakáva 21. apríla. Do tohto bodu odmietajú zástupcovia Európskej komisie neschválený dokument komentovať.
Projekt tiež počíta s:
- oznámenia o interakcii človeka s AI, pokiaľ to nie je „zrejmé z okolností a kontextu použitia“,
- posúdenie vysokorizikových systémov skôr, ako súuvedenie do prevádzky vrátane zabezpečenia toho, aby boli tieto systémy zrozumiteľné ľudským nadriadeným a aby boli vyškolení na „vysokokvalitné“ súbory údajov testované na neobjektívnosť,
- vytvorenie „Európskej rady pre umelú inteligenciu“ zloženej zo zástupcov všetkých krajín EÚ.
Čo si myslia odborníci o kontrole AI?
Možno najdôležitejšia časť dokumentuje článok, ktorý zakazuje určité použitia umelej inteligencie vrátane hromadného sledovania a sociálnych úverových ratingov. Reakcie na projekt skupín pre digitálne práva a odborníkov na politiku však hovoria, že túto časť je potrebné vylepšiť.
„Popisy zakázaných umelých systémovspravodajské informácie sú vágne a obsahujú nejasné výrazy, ktoré môžu vytvárať vážne medzery,“ vysvetľuje Daniel Leufer, analytik európskej politiky zo spoločnosti Access Now, v rozhovore pre The Verge. Táto časť má podľa jeho slov „ďaleko od ideálu“.
Ako presne rozhoduje národná legislatívaSpôsobilo rozhodnutie AI niekomu škodu alebo nie? Na druhej strane je zákaz používania AI na hromadné sledovanie „príliš mierny“. Dodáva, že príliš úzko je definovaný aj zákaz sociálnych kreditných systémov založených na „spoľahlivosti“. Systémy sociálnych kreditov nemusia posudzovať, či je niekto dôveryhodný, aby rozhodovali o otázkach, ako je jeho nárok na dávky.
Na Twitter Omer Tene, viceprezidentnezisková organizácia IAPP (International Association of Privacy Professionals), uviedla, že rozsudok „predstavuje typický bruselský prístup k novým technológiám a inováciám. Ak máte pochybnosti, upravte sa." Podľa Tenea, ak budú návrhy prijaté, vytvorí sa „rozsiahly regulačný ekosystém“, ktorý pritiahne nielen tvorcov systémov AI, ale aj dovozcov, distribútorov a používateľov, a vytvorí množstvo regulačných rád, národných aj ; v celej EÚ.
Tento ekosystém však nebude prvýJe čas obmedziť „Big Tech“, hovorí Michael Veale, lektor digitálnych práv a predpisov na University College London. "Zameriava sa predovšetkým na menej známych poskytovateľov obchodných a rozhodovacích nástrojov, ktorých práca sa často vymyká kontrole regulátorov alebo ich vlastných klientov."
Nie je známe, aké zmeny mohli byť vykonanév tomto predbežnom návrhu, keď sa politici EÚ pripravujú na oficiálne oznámenie 21. apríla . Keď sa však nariadenie navrhne, bude podliehať zmenám na základe spätnej väzby od poslancov EP a bude sa musieť implementovať samostatne v každom národnom štáte.
Prečo je potrebný nový zákon?
O pláne regulácie AI sa už nejaký čas diskutovalo.čas. Vo februári 2020 Európska komisia zverejnila bielu knihu, v ktorej načrtla plány na reguláciu „vysokorizikových“ aplikácií umelej inteligencie. Aj keď z nového návrhu nie je úplne jasné, ako presne bude „vysoké riziko“ určené.
Podľa draftu je hlavným cieľomCieľom Komisie je v tomto prípade zvýšiť dôveru verejnosti v AI prostredníctvom bŕzd a protiváh založených na hodnotách EÚ. Cieľom je stimulovať prijatie takzvanej „dôveryhodnej“ a „na človeka zameranej“ AI. To platí nielen pre „vysokorizikové“ aplikácie, ale pre každého, kto komunikuje s osobou.
Čo sa stane, ak bude zákon prijatý?
Ak bude predbežný návrh prijatý, budepovedie k tomu, že EÚ zaujme pevný postoj k určitým aplikáciám AI. Niektoré použitia budú podliehať kontrolám podobným nariadeniam EÚ o digitálnom súkromí podľa legislatívy GDPR.
Požiadavky EÚ zahŕňajú zabezpečeniebezpečnosť a zabezpečenie stálej presnosti AI —s podmienkou nahlásenia „akýchkoľvek závažných incidentov alebo akýchkoľvek porúch v prevádzke systému AI, ktoré predstavujú porušenie povinností dozornému orgánu najneskôr do 15 ;dni po tom, čo som sa o tom dozvedel.
Je pozoruhodné, že sa komisia vyhlanávrhy na zákaz používania rozpoznávania tváre na verejných miestach. Podľa uniknutého konceptu začiatkom minulého roka túto myšlienku zvažovala.
Nie je známe, aké zmeny sa mohli urobiťtoto je návrh návrhu, keď sa politici EÚ pripravujú na oficiálne vyhlásenie 21. apríla. Len čo bude nariadenie navrhnuté, bude sa môcť po prijatí spätnej väzby od poslancov zmeniť a musí sa implementovať osobitne v každom národnom štáte.
Nie je to prvýkrát, čo Európa hovorí o reguláciitechnologický priemysel. Orgány EÚ tak chcú prinútiť spoločnosti Google a Facebook, aby platili vydavateľom za novinky, a začiatkom roka vyzvali európski politici vedúcich technologických gigantov, aby rokovali o zákonoch obmedzujúcich ich monopol. Pripravované zákony vo všetkých ohľadoch stanovia pokutu vo výške 10% pre technologických gigantov, aby sa obmedzil ich monopol.
Čítaj viac
Bola vytvorená prvá presná mapa sveta. Čo je zlé na všetkých ostatných?
NASA povedala, ako budú dodávať vzorky Marsu na Zem
V Rusku bol testovaný motor pre orbitálne lietadlo
Všeobecné nariadenie o ochrane údajov, všeobecnéGeneral Data Protection Regulation (GDPR) je nariadenie Európskej únie, ktorým Európsky parlament, Rada Európskej únie a Európska komisia posilňujú a zjednocujú ochranu osobných údajov všetkých fyzických osôb v Európskej únii (EÚ). Cieľom nariadenia je aj export údajov z EÚ.
GDPR je zamerané predovšetkým na to, aby to zabezpečiloposkytnúť občanom kontrolu nad ich vlastnými osobnými údajmi a zjednodušiť regulačný rámec pre medzinárodné hospodárske vzťahy zjednotením regulácie v rámci EÚ.
Systém sociálneho kreditu ("sociálny systém"rating “,„ system of social trust “) - systém na hodnotenie jednotlivých občanov alebo organizácií podľa rôznych parametrov, ktorých hodnoty sa získavajú pomocou nástrojov hromadného pozorovania a pomocou technológie analýzy veľkých údajov. Prvýkrát ho implementovala čínska vláda v 90. rokoch.