Ako sa to všetko začalo?
V septembri 2021 bola vydaná nová správa OSN. Odborníci študovali, ako krajiny a spoločnosti
Včera šéf OSN pre ľudské práva MichelBachelet vyzval na moratórium na používanie technológií umelej inteligencie, ktoré vážne ohrozujú ľudské práva. Vrátane systémov na skenovanie osôb sledujúcich ľudí na verejných miestach. Poznamenala, že krajiny by mali okamžite zakázať aplikácie AI, ktoré nie sú v súlade s medzinárodným právom v oblasti ľudských práv.
Kde je používanie AI neprijateľné?
Aplikácie, ktoré majú byť zakázanéPatria sem vládne systémy „sociálneho hodnotenia“, ktoré hodnotia ľudí na základe ich správania, a určité nástroje založené na umelej inteligencii, ktoré rozdeľujú ľudí do skupín, ako napríklad etnicita alebo pohlavie.
Technológie založené na umelýchInteligencia „môže byť silou dobra“ a môže tiež viesť k „negatívnym, dokonca katastrofickým následkom“, ak sa použije bez ohľadu na to, ako ovplyvňujú ľudské práva, uviedla Bachelet vo vyhlásení.
„Nie je to o nedostatku umelých látokspravodajstvo,“ vysvetlila novinárom Peggy Hicksová, riaditeľka tematickej interakcie v Centre pre ľudské práva OSN. Pri prezentácii správy v Ženeve oslovila médiá. „Ide o to, že ak sa má AI používať v týchto veľmi dôležitých funkčných oblastiach súvisiacich s ľudskými právami, musí sa to robiť správne. A jednoducho sme nevytvorili štruktúru, ktorá to zabezpečuje.“
Bacheletová nežiadala úplný zákaztechnológie rozpoznávania tváre, ale poznamenal, že vlády by mali prestať skenovať správanie ľudí v reálnom čase. Napríklad na hodnotenie výkonu zamestnancov. Musíte sa uistiť, že technológia je presná a že AI je nezaujatá a spĺňa štandardy ochrany súkromia a údajov.
Správa tiež vyvoláva obavy znástroje, ktoré sa pokúšajú zistiť emocionálny a duševný stav ľudí analyzovaním ich mimiky alebo pohybov tela. Odborníci zdôrazňujú, že takéto technológie podliehajú zaujatosti, nesprávnej interpretácii a nedostatku vedeckého základu.
„Využívanie systémov štátnymi orgánmiRozpoznávanie emócií, napríklad na vyzdvihnutie osôb zadržaných alebo zatknutých políciou alebo na posúdenie pravdivosti vyhlásení počas výsluchov, predstavuje riziko podkopania ľudských práv, ako je súkromie, sloboda a spravodlivosť súdnictva, ”uvádza sa v správe.
Kde je problém používania AI obzvlášť akútny?
Aj keď názvy konkrétnych krajín v správesa nespomínajú, za zmienku stojí Čína. Pripomeňme, že v máji úrady spustili program na testovanie kamier na rozpoznávanie emócií na Ujguroch v západnom regióne Sin-ťiang. A uznanie samotných Ujgurov. Pripomeňme, že ešte v roku 2018 vydala Human Rights Watch správu o prenasledovaní moslimského obyvateľstva čínskeho regiónu Sin-ťiang. Podľa organizácie tam boli v posledných rokoch hromadne a často bezdôvodne zadržiavaní Ujguri, ktorí ich umiestňovali do väzníc a výchovných táborov; Milióny ľudí sú neustále pod videom a ich sociálne postavenie a osud závisia od bodov nazbieraných v systéme „sociálneho kreditu“.
Kľúčoví autori správy však uviedli, že vymenovanie konkrétnych krajín nepatrí do ich právomoci a môže byť dokonca kontraproduktívne.
„V čínskom kontexte akoa v iných súvislostiach nás znepokojuje transparentnosť a diskriminačné aplikácie, ktoré sa zameriavajú na konkrétne komunity,“ vysvetľuje hovorkyňa OSN Peggy Hicks.
Citovala niekoľko súdnych prípadov v USA a Austrálii, kde bola zneužívaná umelá inteligencia.
Jeden z najhlučnejších precedensov v USA -situácia s Amazonom. Táto spoločnosť je jedným z centier vývoja v oblasti umelej inteligencie. V roku 2017 spoločnosť ukončila pilotný náborový projekt založený na AI, ktorý prebiehal takmer tri roky. Jedným z kľúčových problémov bola rodová diskriminácia kandidátov - algoritmus podcenil hodnotenia kandidátov.
V Austrálii medzitým súd vytvoril prevratný prípadprecedens. Systémy umelej inteligencie môžu byť teraz právne uznané ako vynálezcovia v patentových prihláškach. Nie všetci však s týmto rozhodnutím súhlasili.
Čo je spodnom riadku?
Odporúčania správy odrážajú názory mnohýchpolitickí lídri v západných demokraciách. Je dôležité nielen využiť ekonomický a sociálny potenciál AI, ale aj riešiť rastúce obavy o spoľahlivosť nástrojov, ktoré sledujú a profilujú ľudí.
Americká ministerka obchodu Gina Raimondo počasvirtuálna konferencia v júni posilnila obavy predstaviteľov OSN. "Je desivé premýšľať o tom, ako by sa to dalo použiť na ďalšie posilnenie diskriminačných tendencií," povedala. "Musíme sa uistiť, že to nedovolíme."
Európske regulačné orgány už teda súpodnikli kroky na obmedzenie najrizikovejších aplikácií AI. Navrhované pravidlá, ktoré tento rok stanovili predstavitelia Európskej únie, zakážu určité používanie AI, ako napríklad skenovanie tváre v reálnom čase, a prísne kontrolujú ďalšie použitia, ktoré by mohli ohroziť bezpečnosť ľudí alebo ľudské práva.
Čítať Ďalej
Unikátny čln sa za dve minúty zmení na ponorku a je pre nepriateľa neviditeľný
Fyzici ochladili atómy na najnižšiu teplotu na svete
Najpodrobnejší model vesmíru bol uverejnený na internete. Študovať to môže ktokoľvek