Kako je sve počelo?
Novo izvješće UN-a objavljeno je u rujnu 2021. Stručnjaci su proučavali kako zemlje i tvrtke
Jučer je šef UN -a za ljudska prava MichelBachelet je pozvao na moratorij na uporabu tehnologija umjetne inteligencije koje predstavljaju ozbiljnu prijetnju ljudskim pravima. Uključujući sustave za skeniranje osoba koje prate ljude na javnim mjestima. Napomenula je da bi zemlje trebale odmah zabraniti primjenu umjetne inteligencije koja nije u skladu s međunarodnim pravom o ljudskim pravima.
Gdje je upotreba umjetne inteligencije neprihvatljiva?
Aplikacije koje treba zabranitiTo uključuje vladine sustave „društvenog ocjenjivanja“ koji procjenjuju ljude na temelju njihovog ponašanja i određene alate temeljene na umjetnoj inteligenciji koji dijele ljude u skupine, kao što su etnička ili spolna pripadnost.
Tehnologije temeljene na umjetnomObavještajni podaci "mogu biti snaga za dobro", a također mogu dovesti do "negativnih, čak katastrofalnih posljedica" ako se koriste bez razmatranja o tome kako utječu na ljudska prava, rekla je Bachelet u izjavi.
“Ne radi se o nedostatku umjetnoginteligencije”, objasnila je novinarima Peggy Hicks, direktorica tematske interakcije u Centru za ljudska prava UN-a. Obratila se medijima predstavljajući izvješće u Ženevi. “Poanta je da ako se umjetna inteligencija namjerava koristiti u ovim vrlo važnim funkcionalnim područjima koja se odnose na ljudska prava, onda to mora biti učinjeno ispravno. A mi jednostavno nismo stvorili strukturu koja to osigurava."
Bachelet nije tražila potpunu zabranutehnologiju prepoznavanja lica, ali je primijetio da bi vlade trebale prestati skenirati ponašanje ljudi u stvarnom vremenu. Na primjer, za procjenu učinka osoblja. Morate osigurati da je tehnologija točna i da je AI nepristran te da zadovoljava standarde privatnosti i zaštite podataka.
Izvješće također izražava zabrinutost zboginstrumenti koji pokušavaju odrediti emocionalno i mentalno stanje ljudi analizirajući njihov izraz lica ili pokrete tijela. Stručnjaci naglašavaju da su takve tehnologije podložne pristranosti, pogrešnom tumačenju i nedostatku znanstvene osnove.
„Korištenje sustava od strane državnih tijelaPrepoznavanje emocija, na primjer da se istaknu pojedinci za policijsko pritvaranje ili uhićenje, ili da se procijeni istinitost izjava tijekom ispitivanja, riskira narušavanje ljudskih prava poput privatnosti, slobode i pravičnosti pravosuđa ”, navodi se u izvješću.
Gdje je problem korištenja umjetne inteligencije posebno akutan?
Iako imena konkretnih zemalja u izvješćunisu spomenuti, vrijedi spomenuti Kinu. Podsjetimo, vlasti su u svibnju pokrenule program testiranja kamera za prepoznavanje emocija na Ujgurima u zapadnoj regiji Xinjiang. I priznanje samih Ujgura. Podsjetimo, Human Rights Watch je još 2018. godine objavio izvješće o progonu muslimanskog stanovništva kineske regije Xinjiang. Prema organizaciji, posljednjih su godina Ujguri tamo masovno i često bezrazložno zatočeni, stavljajući ih u zatvore i obrazovne kampove; Milijuni ljudi pod stalnim su videonadzorom, a njihov društveni status i sudbina ovise o bodovima prikupljenim u sustavu “društvenog kredita”.
Međutim, ključni autori izvješća rekli su da imenovanje određenih zemalja nije u njihovoj ovlasti i da bi čak moglo biti kontraproduktivno.
“U kineskom kontekstu, kakoa u drugim kontekstima, zabrinuti smo zbog transparentnosti i diskriminirajućih prijava koje ciljaju određene zajednice,” objašnjava glasnogovornica UN-a Peggy Hicks.
Navela je nekoliko sudskih slučajeva u SAD -u i Australiji u kojima se zloupotrijebila umjetna inteligencija.
Jedan od najglasnijih presedana u Sjedinjenim Državama -situacija s Amazonom. Ova je korporacija jedno od središta razvoja na području umjetne inteligencije. 2017. tvrtka je zatvorila pilot projekt zapošljavanja temeljen na AI-u koji je vodio gotovo tri godine. Jedan od ključnih problema bila je spolna diskriminacija kandidata - algoritam je podcijenio procjene kandidatkinja.
U međuvremenu, u Australiji je sud napravio revolucijupresedan. Sustavi umjetne inteligencije sada se mogu zakonski priznati kao izumitelji u patentnim prijavama. Međutim, nisu se svi složili s ovom odlukom.
Koji je zaključak?
Preporuke izvješća odražavaju stajališta mnogihpolitički lideri u zapadnim demokracijama. Važno je ne samo iskoristiti gospodarski i društveni potencijal umjetne inteligencije, već i riješiti rastuću zabrinutost zbog pouzdanosti alata koji prate i profiliraju ljude.
Američka ministrica trgovine Gina Raimondo tijekomvirtualna konferencija u lipnju pojačala je zabrinutost dužnosnika UN -a. "Zastrašujuće je razmišljati o tome kako se to može koristiti za daljnje jačanje diskriminatornih tendencija", rekla je. "Moramo se pobrinuti da to ne dopustimo."
Tako su europski regulatori većpoduzeli korake za suzbijanje najrizičnijih AI aplikacija. Predložena pravila, koja su dužnosnici Europske unije iznijeli ove godine, zabranit će određene upotrebe umjetne inteligencije, poput skeniranja lica u stvarnom vremenu, i strogo kontrolirati druge uporabe koje bi mogle ugroziti ljudsku sigurnost ili ljudska prava.
Čitati Unaprijediti
Jedinstveni čamac za dvije minute pretvara se u podmornicu i neprijatelju je nevidljiv
Fizičari su ohladili atome na najnižu temperaturu na svijetu
Najdetaljniji model svemira objavljen je na internetu. Svatko ga može proučavati