Kaip viskas prasidėjo?
Europos Sąjungoje diskutuojama apie galimybę uždrausti naudoti dirbtinius
Kaip nutarimo projekto dalis„Dėl europietiško požiūrio į dirbtinį intelektą“, ES vykdomoji valdžia siūlo uždrausti dirbtinio intelekto technologijas, kurios naudojamos „masiniam stebėjimui, taikomam visiems asmenims be jokio skirtumo“. Įstatymo projekto tekste detaliai aprašomi tokie stebėjimo metodai kaip „asmenų stebėjimas ir sekimas skaitmeninėje ar fizinėje aplinkoje, taip pat automatinis asmens duomenų iš įvairių šaltinių kaupimas ir analizė“, praneša naujienų agentūra REGNUM.
Europos Komisija siekia tai paskelbtidirbtinio intelekto (AI) sistemų, naudojamų „masiniam žmonių stebėjimui“, įstatymą, kaip dalį naujų draudimų, kurie bus įvesti kitą savaitę.
Be to, Europos Komisija numato draudimusnaudoti AI programas, kurios pažeidžia ES vertybes arba pažeidžia žmogaus teises. Tai apima sistemas, kurios manipuliuoja žmonių elgesiu ir nukreiptos į pažeidžiamas gyventojų grupes.
Pagal projektą, pavyzdžiui, ES narės turėssukurti vertinimo komitetus didelės rizikos AI sistemoms išbandyti ir patvirtinti. Įmonėms, kuriančioms ar parduodančioms dirbtinį intelektą, kurioms taikomi apribojimai, įskaitant tas, kurios yra iš kitų pasaulio šalių, gali būti skirta bauda iki 4 proc.
Kas yra „didelės rizikos“ dirbtinis intelektas?
Pagal suplanuotas taisykles tie, kurieketina taikyti dirbtinį intelektą, turės nustatyti, ar konkretus naudojimo atvejis yra „didelės rizikos“, taigi, ar jiems reikia atlikti privalomą išankstinį atitikties vertinimą, ar ne.
Didelės rizikos AI pavyzdžiai:
- sistemos, kuriose pirmenybė teikiama skubios pagalbos tarnyboms,
- sistemos, lemiančios žmonių patekimą į švietimo įstaigas ar jų paskyrimą,
- įdarbinimo algoritmai,
- tiems, kurie vertina kreditingumą,
- atlikti individualius rizikos vertinimus,
- nusikaltimų prognozavimo algoritmai.
Kokia yra AI valdymo sąskaitos esmė?
Mes paaiškiname, ką numato naujasis įstatymas.
Duomenų apie sistemomis besinaudojančius piliečius rinkimassekimas, socialinių tinklų, bankų informacijos ir kitų šaltinių stebėjimas – „turėtų būti uždraustas beatodairiškas asmenų sekimas, jei jis taikomas apibendrintai visiems asmenims be skirtumo“. Kitaip tariant, „selektyvus“ stebėjimas, jei asmuo turi kuo nors suinteresuotas kompetentingas institucijas, gali būti leidžiamas, tačiau visiškas stebėjimas „tik tuo atveju“ tikriausiai bus uždraustas Europoje.
Įstatymo projektas taip pat numato uždraudimąsocialinio reitingo arba socialinio kreditavimo sistemos įvedimas, kai apie piliečius sukaupiamas masyvas didelių duomenų apie ryšius, elgseną, pirkimus ir kitą informaciją, o remiantis duomenų visuma sukuriamas socialinis piliečio portretas. AI arba neuroniniai tinklai taip pat gali padėti tai išsiaiškinti. Jiems tai patinka bankų sektoriuje, ir Europa šiuo atžvilgiu nėra išimtis. Tačiau Kinija nuėjo toliausiai kurdama socialinių kreditų sistemą, kai žmonėms, turintiems žemus reitingus, atsisakoma įsigyti tarpmiestinio transporto bilietų, gyventi tam tikrose vietovėse, įvedama daugybė kitų apribojimų. Tokios AI sistemos turi „didelę galimybę paveikti kažkieno pragyvenimą“, pažymima dokumente.
Kalbant apie socialinį reitingą įstatymo projektesakė: „AI sistemos, naudojamos bendros paskirties socialiniams rodikliams įvertinti, turėtų būti uždraustos“. Balsuoti dėl šio įstatymo numatoma balandžio 21 d. Iki šiol Europos Komisijos atstovai atsisako komentuoti nepatvirtintą dokumentą.
Projekte taip pat numatyta:
- pranešimai apie žmogaus sąveiką su AI, nebent tai „akivaizdu iš naudojimo aplinkybių ir konteksto“,
- didelės rizikos sistemų įvertinimas prieš jas darantpaleidimas, įskaitant užtikrinimą, kad šios sistemos būtų suprantamos žmonėms prižiūrėtojams ir kad jie būtų išmokyti naudotis „aukštos kokybės“ duomenų rinkiniais, patikrintais dėl šališkumo,
- sukurti „Europos dirbtinio intelekto tarybą“, kurią sudarytų visų ES šalių atstovai.
Ką ekspertai mano apie AI kontrolę?
Galbūt svarbiausia dokumento dalisyra straipsnis, draudžiantis tam tikrą AI naudojimą, įskaitant masinį stebėjimą ir socialinius kredito reitingus. Tačiau skaitmeninių teisių grupių ir politikos ekspertų reakcija į projektą sako, kad šį skyrių reikia patobulinti.
„Draudžiamų dirbtinių sistemų aprašymaižvalgybos duomenys yra neaiškūs ir juose yra neaiškios kalbos, dėl kurių gali atsirasti rimtų spragų“, – interviu „The Verge“ aiškina „Access Now“ Europos politikos analitikas Danielis Leuferis. Šis skyrius, jo žodžiais, yra „toli nuo idealo“.
Kaip tiksliai nustato nacionaliniai teisės aktaiAr AI sprendimas kam nors pakenkė, ar ne? Kita vertus, draudimas naudoti AI masiniam stebėjimui yra „per švelnus“. Jis priduria, kad socialinių kreditų sistemų, pagrįstų „patikimumu“, draudimas taip pat apibrėžtas per siaurai. Socialinių kreditų sistemoms nereikia vertinti, ar kas nors yra patikimas sprendžiant tokius klausimus, kaip tinkamumas gauti pašalpas.
„Twitter“ Omer Tene, viceprezidentasne pelno siekianti organizacija IAPP (Tarptautinė privatumo profesionalų asociacija) komentavo, kad nutarimas „atspindi tipišką Briuselio požiūrį į naujas technologijas ir inovacijas. Jei abejojate, pakoreguokite“. Pasak Tene, jei pasiūlymai bus priimti, bus sukurta „didžiulė reguliavimo ekosistema“, kuri pritrauks ne tik dirbtinio intelekto sistemų kūrėjus, bet ir importuotojus, platintojus bei naudotojus, taip pat bus sukurta nemažai reguliavimo tarybų, tiek nacionalinių, tiek ; visoje ES.
Tačiau ši ekosistema nebus pirmojiAtėjo eilė apriboti „Big Tech“, – sako Michaelas Veale'as, Londono universiteto koledžo skaitmeninių teisių ir taisyklių dėstytojas. „Jo dėmesys visų pirma skiriamas mažiau žinomiems verslo ir sprendimų priėmimo įrankių tiekėjams, kurių darbas dažnai nepatenka į reguliavimo institucijų ar jų pačių klientų patikrinimą.
Kokie pakeitimai galėjo būti padaryti, nežinomaŠiame pasiūlymo projekte, ES politikos formuotojams ruošiantis oficialiam pranešimui balandžio 21 d. . Tačiau kai bus pasiūlytas reglamentas, jis bus pakeistas gavus EP narių atsiliepimus ir turės būti įgyvendintas atskirai kiekvienoje nacionalinėje valstybėje.
Kodėl reikalingas naujas įstatymas?
AI reguliavimo planas jau buvo svarstomas jau kurį laiką.laikas. 2020 m. vasario mėn. Europos Komisija paskelbė baltąją knygą, kurioje išdėstė planus reguliuoti „didelės rizikos“ dirbtinio intelekto programas. Nors iš naujo projekto nėra visiškai aišku, kaip tiksliai bus nustatyta „didelė rizika“.
Pagal projekto projektą pagrindinis tikslasKomisijos tikslas – padidinti visuomenės pasitikėjimą dirbtiniu intelektu, taikant ES vertybėmis pagrįstą kontrolę ir pusiausvyrą. Tikslas yra paskatinti vadinamojo „patikimo“ ir „į žmogų orientuoto“ DI priėmimą. Tai taikoma ne tik „didelės rizikos“ programoms, bet ir visiems, kurie bendrauja su asmeniu.
Kas bus, jei įstatymas bus priimtas?
Jei pasiūlymo projektas bus priimtas, jis bus priimtasES užims tvirtą poziciją dėl tam tikrų AI taikomųjų programų. Kai kuriems naudojimo būdams bus taikomos kontrolės priemonės, panašios į ES skaitmeninio privatumo reglamentą pagal BDAR teisės aktus.
ES reikalavimai apima užtikrinimąsaugumas ir nuolatinio AI tikslumo užtikrinimas – su sąlyga pranešti apie bet kokius rimtus incidentus arba bet kokį AI sistemos veikimo sutrikimą, kuris yra įsipareigojimų pažeidimas priežiūros institucijai ne vėliau kaip 15  ;praėjus kelioms dienoms po to, kai apie tai sužinojo.
Pastebėtina, kad komisija išsisukinėjosiūlymus uždrausti viešose vietose naudoti veido atpažinimo priemones. Remiantis praėjusių metų pradžioje nutekintu juodraščiu, ji svarstė šią idėją.
Kokie pakeitimai galėjo būti padaryti, nežinomašį pasiūlymo projektą ES politikams ruošiantis oficialiam pranešimui balandžio 21 d. Tačiau kai bus pasiūlytas reglamentas, jis gali būti pakeistas gavus EP narių atsiliepimus ir turi būti įgyvendintas atskirai kiekvienoje nacionalinėje valstybėje.
Tai ne pirmas kartas, kai Europa kalba apie reguliavimą.technologijų pramonė. Taigi ES valdžia nori priversti „Google“ ir „Facebook“ mokėti leidėjams už naujienas, o metų pradžioje Europos politikai sukvietė technologijų gigantų vadovus aptarti įstatymų, ribojančių jų monopolį. Panašu, kad rengiami įstatymai technologijų gigantų pajamoms skirs 10% baudą, kad apribotų jų monopoliją.
Skaityti daugiau
Buvo sukurtas pirmasis tikslus pasaulio žemėlapis. Kas negerai visiems kitiems?
NASA pasakojo, kaip jie pristatys Marso pavyzdžius į Žemę
Orbitinio orlaivio variklis buvo išbandytas Rusijoje
Bendrasis duomenų apsaugos reglamentas, BendrasisBendrasis duomenų apsaugos reglamentas (BDAR) yra Europos Sąjungos reglamentas, kuriuo Europos Parlamentas, Europos Sąjungos Taryba ir Europos Komisija stiprina ir suvienodina visų asmenų asmens duomenų apsaugą Europos Sąjungoje (ES). Reglamentu taip pat siekiama eksportuoti duomenis iš ES.
BDAR pirmiausia siekiama tai užtikrintisuteikti piliečiams galimybę valdyti savo asmens duomenis ir supaprastinti tarptautinių ekonominių santykių reguliavimo sistemą suvienodinant reguliavimą ES viduje.
Socialinių kreditų sistema („socialinisreitingas“, „socialinio pasitikėjimo sistema“) – atskirų piliečių ar organizacijų vertinimo sistema pagal įvairius parametrus, kurių reikšmės gaunamos naudojant masinio sekimo priemones ir naudojant didžiųjų duomenų analizės technologiją. Pirmą kartą Kinijos vyriausybė pristatė 2010 m.