Kuinka kaikki alkoi?
Syyskuussa 2021 julkaistiin uusi YK-raportti. Asiantuntijat tutkivat, miten maat ja yritykset
Eilen YK: n ihmisoikeuspäällikkö MichelBachelet kehotti lykkäämään tekoälytekniikoiden käyttöä, jotka aiheuttavat vakavan uhan ihmisoikeuksille. Sisältää järjestelmät ihmisten skannaamiseen, jotka seuraavat ihmisiä julkisilla paikoilla. Hän totesi, että maiden tulisi välittömästi kieltää tekoälysovellukset, jotka eivät noudata kansainvälistä ihmisoikeuslainsäädäntöä.
Missä AI: n käyttöä ei voida hyväksyä?
Sovellukset kielletäänNäitä ovat hallituksen "sosiaalisen luokituksen" järjestelmät, jotka arvioivat ihmisiä käyttäytymisen perusteella, ja tietyt tekoälypohjaiset työkalut, jotka jakavat ihmiset ryhmiin, kuten etniseen alkuperään tai sukupuoleen.
Keinotekoiset tekniikattiedustelu "voi olla hyvää edistävä voima" ja voi myös johtaa "negatiivisiin, jopa katastrofaalisiin seurauksiin", jos sitä käytetään ottamatta huomioon, kuinka ne vaikuttavat ihmisoikeuksiin, Bachelet sanoi lausunnossaan.
"Kyse ei ole keinotekoisuuden puutteestatiedustelu", Peggy Hicks, YK:n ihmisoikeuskeskuksen temaattisen vuorovaikutuksen johtaja, selitti toimittajille. Hän puhui tiedotusvälineille esitellessään raporttia Genevessä. ”Kysymys on siitä, että jos tekoälyä aiotaan käyttää näillä erittäin tärkeillä ihmisoikeuksiin liittyvillä toiminnallisilla alueilla, se on tehtävä oikein. Ja emme yksinkertaisesti ole luoneet rakennetta, joka takaa sen."
Bachelet ei vaatinut täydellistä kieltoakasvojentunnistustekniikka, mutta huomautti, että hallitusten pitäisi lopettaa ihmisten käyttäytymisen reaaliaikainen skannaus. Esimerkiksi henkilöstön suorituskyvyn arvioimiseksi. Sinun on varmistettava, että tekniikka on tarkkaa ja että tekoäly on puolueeton ja täyttää tietosuoja- ja tietosuojastandardit.
Raportti herätti myös huoltainstrumentit, jotka yrittävät määrittää ihmisten emotionaalista ja henkistä tilaa analysoimalla heidän ilmeitään tai kehon liikkeitä. Asiantuntijat korostavat, että tällaiset tekniikat ovat alttiita harhaan, väärintulkinnille ja tieteellisen perustan puutteelle.
"Valtion viranomaisten järjestelmien käyttöTunteiden tunnistaminen, esimerkiksi henkilöiden korostaminen poliisin pidättämistä tai pidätystä varten tai lausuntojen todenperäisyyden arvioiminen kuulusteluissa, vaarantaa ihmisoikeudet, kuten yksityisyyden, vapauden ja oikeuslaitoksen oikeudenmukaisuuden”, raportissa todetaan.
Missä tekoälyn käytön ongelma on erityisen akuutti?
Vaikka tiettyjen maiden nimet raportissaei mainita, Kiina kannattaa mainita. Muistakaamme, että viranomaiset käynnistivät toukokuussa ohjelman tunteidentunnistuskameroiden testaamiseksi uigureilla Xinjiangin länsiosassa. Ja uiguurien itsensä tunnustaminen. Muistakaamme, että vuonna 2018 Human Rights Watch julkaisi raportin Kiinan Xinjiangin alueen muslimiväestön vainosta. Järjestön mukaan uigureja on viime vuosina ollut vangittuna siellä massiivisesti ja usein ilman syytä, ja heidät on sijoitettu vankiloihin ja koulutusleireihin; Miljoonat ihmiset ovat jatkuvan videovalvonnan alaisia, ja heidän sosiaalinen asemansa ja kohtalonsa riippuvat "sosiaalisen luotto"-järjestelmän pisteistä.
Raportin keskeiset kirjoittajat sanoivat kuitenkin, että tiettyjen maiden nimeäminen ei kuulunut heidän toimivaltaansa ja saattaa jopa olla haitallista.
"Kiinan kontekstissa, mitenja muissa yhteyksissä olemme huolissamme läpinäkyvyydestä ja syrjivistä sovelluksista, jotka kohdistuvat tiettyihin yhteisöihin”, selittää YK:n tiedottaja Peggy Hicks.
Hän mainitsi useita oikeusjuttuja Yhdysvalloissa ja Australiassa, joissa tekoälyä käytettiin väärin.
Yksi äänekkäimmistä ennakkotapauksista Yhdysvalloissa -tilanne Amazonin kanssa. Tämä yhtiö on yksi tekoälyn alan kehityskeskuksista. Vuonna 2017 yritys sai päätökseen tekoälyyn perustuvan rekrytointipilottiprojektin, joka oli ollut käynnissä lähes kolme vuotta. Yksi keskeisistä ongelmista oli ehdokkaiden sukupuoleen perustuva syrjintä - algoritmi aliarvioi naisehdokkaiden arvioita.
Samaan aikaan Australiassa tuomioistuin loi uraauurtavanennakkotapaus. Tekoälyjärjestelmät voidaan nyt laillisesti tunnustaa keksijiksi patenttihakemuksissa. Kaikki eivät kuitenkaan hyväksyneet tätä päätöstä.
Mikä lopputulos on?
Raportin suositukset heijastavat monien näkemyksiäläntisten demokratioiden poliittiset johtajat. On tärkeää paitsi hyödyntää tekoälyn taloudellista ja sosiaalista potentiaalia, myös vastata kasvavaan huoleen ihmisiä jäljittävien ja profiloivien työkalujen luotettavuudesta.
Yhdysvaltain kauppaministeri Gina Raimondo aikanakesäkuussa pidetty virtuaalikonferenssi vahvisti YK:n virkamiesten huolenaiheita. "On pelottavaa ajatella, kuinka sitä voidaan käyttää vahvistamaan edelleen syrjiviä taipumuksia", hän sanoi. "Meidän on varmistettava, että emme salli sitä."
Näin ollen eurooppalaiset sääntelyviranomaiset ovat joovat ryhtyneet toimiin hillitäkseen riskialttiimpia tekoälysovelluksia. Ehdotetut säännöt, jotka Euroopan unionin viranomaiset ovat laatineet tänä vuonna, kieltävät tekoälyn tietyt käyttötavat, kuten reaaliaikainen kasvojen skannaus, ja valvovat tiukasti muuta käyttöä, joka voi uhata ihmisturvallisuutta tai ihmisoikeuksia.
Lukea Edelleen
Ainutlaatuinen vene muuttuu sukellusveneeksi kahdessa minuutissa ja on näkymätön viholliselle
Fyysikot ovat jäähdyttäneet atomit maailman alimpaan lämpötilaan
Maailmankaikkeuden yksityiskohtaisin malli on julkaistu verkossa. Kuka tahansa voi opiskella sitä