Kuinka kaikki alkoi?
Euroopan unioni keskustelee mahdollisuudesta kieltää keinotekoisten aineiden käyttö
Osana päätösluonnosta"Euroopan lähestymistavasta tekoälyyn" EU:n johto ehdottaa, että kielletään tekoälyteknologiat, joita käytetään "joukkovalvontaan, jota sovelletaan yleisellä tavalla kaikkiin yksilöihin ilman eroa". Lakiesityksen tekstissä kuvataan yksityiskohtaisesti sellaiset valvontamenetelmät kuin "henkilöiden seuranta ja seuranta digitaalisessa tai fyysisessä ympäristössä sekä henkilötietojen automaattinen yhdistäminen ja analysointi eri lähteistä", raportoi uutistoimisto REGNUM.
Euroopan komissio pyrkii ilmoittamaan asiastatekoälyjärjestelmien (tekoäly) järjestelmistä, joita käytetään "ihmisten joukkovalvontaan" osana uusia kieltoja, jotka otetaan käyttöön ensi viikolla.
Lisäksi Euroopan komissio säätää kiellotkäyttää tekoälysovelluksia, jotka rikkovat EU: n arvoja tai ihmisoikeuksia. Näitä ovat järjestelmät, jotka manipuloivat ihmisen käyttäytymistä ja kohdistuvat haavoittuvassa asemassa oleviin väestöryhmiin.
Luonnoksen mukaan esimerkiksi EU: n jäsenvaltioiden on pakkoperustaa arviointikomiteoita korkean riskin tekoälyjärjestelmien testaamiseksi ja validoimiseksi. Ja yrityksille, jotka kehittävät tai myyvät tekoälyä, johon kohdistuu rajoituksia, mukaan lukien muista maailman maista, voidaan määrätä sakko jopa 4% niiden maailmanlaajuisista tuloista.
Mitä on "korkean riskin" tekoäly?
Suunniteltujen sääntöjen mukaan ne, jotkaaikoo soveltaa tekoälyä, on määritettävä, onko jokin käyttötapaus "suuri riski", ja siksi heidän on suoritettava pakollinen vaatimustenmukaisuuden ennakkoarviointi vai ei.
Esimerkkejä korkean riskin tekoälystä:
- järjestelmät, joissa etusijalle asetetaan hätäpalvelujen lähettäminen,
- järjestelmät, jotka määrittävät ihmisten pääsyn oppilaitoksiin,
- rekrytointialgoritmit,
- ne, jotka arvioivat luottokelpoisuutta,
- suorittaa yksittäisiä riskinarviointeja,
- algoritmit rikosten ennustamiseksi.
Mikä on tekoälyn valvontalaskun ydin?
Selitämme, mitä uusi lasku tarjoaa.
Tietojen kerääminen järjestelmiä käyttävistä kansalaisistaseuranta, sosiaalisten verkostojen, pankkitietojen ja muiden lähteiden seuranta - "yksilöiden mielivaltainen valvonta tulisi kieltää, jos sitä sovelletaan yleisesti kaikkiin yksilöihin erotuksetta." Toisin sanoen "valikoiva" tarkkailu, jos henkilöllä on toimivaltaisia viranomaisia kiinnostava asia, voidaan hyvinkin sallia, mutta "varmuuden vuoksi" täydellinen valvonta todennäköisesti kielletään Euroopassa.
Lakiehdotuksessa säädetään myös kiellostasosiaalisen luokituksen tai sosiaalisen hyvitysjärjestelmän käyttöönotto, kun kansalaisista kertyy joukko big dataa yhteyksistä, käyttäytymisestä, ostoksista ja muusta tiedosta ja tiedon kokonaisuuden perusteella luodaan kansalaisesta sosiaalinen muotokuva. Tekoäly tai neuroverkot voivat myös auttaa selvittämään tämän. He rakastavat tätä pankkialalla, eikä Eurooppa ole tässä suhteessa poikkeus. Mutta Kiina on mennyt pisimpään luoessaan sosiaalisen luottojärjestelmän, jossa heikosti arvostetuilta ihmisiltä evätään liput kaukoliikenteeseen, asuminen tietyillä alueilla ja joukko muita rajoituksia otetaan käyttöön. Tällaisilla tekoälyjärjestelmillä on "suuri mahdollisuus vaikuttaa jonkun toimeentuloon", lehti toteaa.
Mitä tulee sosiaaliluokkaan laskussasanoi: "tekoälyjärjestelmät, joita käytetään yleiskäyttöisten sosiaalisten indikaattorien arvioimiseen, olisi kiellettävä." Äänestys tästä laskusta on odotettavissa 21. huhtikuuta. Tähän asti Euroopan komission edustajat kieltäytyvät kommentoimasta hyväksymätöntä asiakirjaa.
Hanke tarjoaa myös:
- ilmoitukset ihmisen vuorovaikutuksesta tekoälyn kanssa, ellei se ole "ilmeistä käyttöolosuhteista ja kontekstista",
- korkean riskin järjestelmien arviointi ennen kuin ne ovat olemassakäyttöönotto, mukaan lukien sen varmistaminen, että nämä järjestelmät ovat ihmisvalvojille ymmärrettäviä ja että he ovat koulutettuja käyttämään "korkealaatuisia" tietojoukkoja, jotka on testattu harhaan,
- "Euroopan tekoälyn neuvoston" perustaminen, joka koostuu kaikkien EU-maiden edustajista.
Mitä asiantuntijat ajattelevat tekoälyn hallinnasta?
Ehkä asiakirjan tärkein osaon artikkeli, joka kieltää tietyn tekoälyn käytön, mukaan lukien joukkovalvonta ja sosiaaliset luottoluokitukset. Digitaalisten oikeuksien ryhmien ja politiikan asiantuntijoiden reaktiot projektiin sanovat kuitenkin, että tätä osaa on parannettava.
"Kiellettyjen keinotekoisten järjestelmien kuvauksettiedustelutiedot ovat epämääräisiä ja sisältävät epäselvää kieltä, joka voi luoda vakavia porsaanreikiä”, selittää Daniel Leufer, Access Now:n eurooppalainen politiikka-analyytikko The Vergen haastattelussa. Tämä osio on hänen sanojensa mukaan "kaukana ihanteellisesta".
Miten kansallinen lainsäädäntö tarkalleen ottaen päättääOnko tekoälypäätös haittaa ketään vai ei? Toisaalta kielto käyttää tekoälyä joukkovalvontaan on "liian lievä". Hän lisää, että myös "luotettavuuteen" perustuvien sosiaalisten luottojärjestelmien kielto on määritelty liian suppeasti. Sosiaalisen luottojärjestelmän ei tarvitse arvioida, onko joku luotettava päättämään esimerkiksi etuuskelpoisuudestaan.
At Twitter Omer Tene, varapuheenjohtajavoittoa tavoittelematon järjestö IAPP (International Association of Privacy Professionals) kommentoi, että päätös "edustaa tyypillistä Brysselin lähestymistapaa uusiin teknologioihin ja innovaatioihin. Jos olet epävarma, säädä." Tenen mukaan, jos ehdotukset hyväksytään, se luo "valtavan sääntelyekosysteemin", joka houkuttelee tekoälyjärjestelmien luojien lisäksi myös maahantuojia, jakelijoita ja käyttäjiä, ja luo useita sääntelylautakuntia, sekä kansallisia että ; kaikkialla EU:ssa.
Tämä ekosysteemi ei kuitenkaan ole ensimmäinenOn vuoro rajoittaa "Big Tech", sanoo Michael Veale, digitaalisten oikeuksien ja säädösten lehtori University College Londonista. "Hän keskittyy ensisijaisesti vähemmän tunnettuihin liiketoiminta- ja päätöksentekotyökalujen tarjoajiin, joiden työ jää usein sääntelijöiden tai omien asiakkaidensa huomioimatta."
Ei ole tiedossa, mitä muutoksia on saatettu tehdätässä ehdotusluonnoksessa, kun EU:n poliittiset päättäjät valmistautuvat viralliseen ilmoitukseen 21. huhtikuuta. Kun asetusta ehdotetaan, sitä kuitenkin muutetaan parlamentin jäsenten palautteen perusteella, ja se on pantava täytäntöön erikseen kussakin kansallisvaltiossa.
Miksi uutta lakia tarvitaan?
Tekoälyn säätelysuunnitelmasta on keskusteltu jo jonkin aikaa.aika. Helmikuussa 2020 Euroopan komissio julkaisi valkoisen kirjan, jossa hahmotellaan suunnitelmia "korkean riskin" tekoälysovellusten sääntelemiseksi. Vaikka uudesta luonnoksesta ei ole täysin selvää, kuinka "korkean riskin" tarkalleen määritetään.
Luonnosluonnoksen mukaan päätavoiteKomission tavoitteena on lisätä yleisön luottamusta tekoälyyn EU:n arvoihin perustuvien tarkastusten ja tasapainojen avulla. Tavoitteena on edistää niin sanotun "luotettavan" ja "ihmiskeskeisen" tekoälyn käyttöönottoa. Tämä ei koske vain "korkean riskin" sovelluksia, vaan kaikkia, jotka ovat vuorovaikutuksessa henkilön kanssa.
Mitä tapahtuu, jos laki hyväksytään?
Jos ehdotusluonnos hyväksytään, se hyväksytäänjohtaa siihen, että EU ottaa vahvan kannan tiettyihin tekoälysovelluksiin. Joihinkin käyttötarkoituksiin sovelletaan EU:n digitaalisen tietosuoja-asetuksen mukaisia GDPR-lainsäädännön mukaisia valvontatoimia.
EU:n vaatimuksiin kuuluu varmistaaturvallisuus ja älkeen tekoälyn johdonmukaisen tarkkuuden varmistaminen —edellyttäen, että raportoidaan "vakavista vaaratilanteista tai järjestelmän toimintahäiriöistä, jotka muodostavat velvoitteiden rikkomisen valvontaviranomaiselle viimeistään 15  ;päiviä sen jälkeen, kun sain tietää tästä.
On huomionarvoista, että komissio vältteliehdotuksia kasvojen tunnistamisen käytön kieltämiseksi julkisilla paikoilla. Viime vuoden alussa vuotaneen luonnoksen mukaan hän harkitsi ajatusta.
Ei tiedetä, mihin muutoksiin olisi voitu tehdätämä on luonnos ehdotukseksi, kun EU: n poliitikot valmistautuvat viralliseen ilmoitukseen 21. huhtikuuta. Kun asetusehdotusta ehdotetaan, sitä voidaan kuitenkin muuttaa saatuaan palautetta Euroopan parlamentin jäseniltä, ja se on pantava täytäntöön erikseen kussakin kansallisvaltiossa.
Tämä ei ole ensimmäinen kerta, kun Eurooppa puhuu sääntelystäteknologiateollisuus. Siksi EU: n viranomaiset haluavat pakottaa Googlen ja Facebookin maksamaan kustantajille uutisista, ja vuoden alussa eurooppalaiset poliitikot kutsuivat tekniikan jättiläisten johtajat keskustelemaan heidän monopoliaan rajoittavista laeista. Kaiken kaikkiaan laadittavissa laeissa säädetään 10%: n tulorangaistuksesta tekniikan jättiläisille heidän monopolinsa rajoittamiseksi.
Lue lisää
Ensimmäinen tarkka maailmankartta luotiin. Mitä vikaa kaikilla muilla on?
NASA kertoi kuinka he toimittavat Marsin näytteitä maapallolle
Orbitaalilentokoneen moottori testattiin Venäjällä
Yleinen tietosuoja-asetus, GeneralYleinen tietosuoja-asetus (GDPR) on Euroopan unionin asetus, jolla Euroopan parlamentti, Euroopan unionin neuvosto ja Euroopan komissio vahvistavat ja yhtenäistävät kaikkien henkilöiden henkilötietojen suojaa Euroopan unionissa (EU). Asetuksella pyritään myös viemään tietoja EU:sta.
GDPR:n tavoitteena on ensisijaisesti varmistaa tämäantaa kansalaisille mahdollisuus hallita omia henkilötietojaan ja yksinkertaistaa kansainvälisten taloussuhteiden sääntelykehystä yhdenmukaistamalla sääntelyä EU:n sisällä.
Sosiaalinen luottojärjestelmä ("sosiaalinen luottojärjestelmä")luokitus ”,” sosiaalisen luottamuksen järjestelmä ”) - järjestelmä yksittäisten kansalaisten tai organisaatioiden arvioimiseksi erilaisilla parametreilla, joiden arvot saadaan käyttämällä massatarkkailuvälineitä ja isojen tietojen analysointitekniikkaa. Kiinan hallitus pani sen täytäntöön ensimmäisen kerran 2010-luvulla.