Jak to všechno začalo?
V září 2021 byla vydána nová zpráva OSN. Odborníci studovali, jak země a společnosti
Včera šéf OSN pro lidská práva MichelBachelet vyzval k moratoriu na používání technologií umělé inteligence, které představují vážné ohrožení lidských práv. Včetně systémů pro skenování osob sledujících lidi na veřejných místech. Poznamenala, že země by měly okamžitě zakázat aplikace AI, které nejsou v souladu s mezinárodním právem v oblasti lidských práv.
Kde je použití AI nepřijatelné?
Aplikace, které mají být zakázányPatří sem vládní systémy „sociálního hodnocení“, které hodnotí lidi podle jejich chování, a určité nástroje založené na AI, které rozdělují lidi do skupin, jako je etnicita nebo pohlaví.
Technologie založené na umělýchInteligence „může být silou dobra“ a může také vést k „negativním, dokonce katastrofickým důsledkům“, pokud se použije bez ohledu na to, jak ovlivňují lidská práva, uvedla Bachelet v prohlášení.
„Nejde o nedostatek umělýchzpravodajství,“ vysvětlila novinářům Peggy Hicksová, ředitelka tematické interakce Střediska pro lidská práva OSN. Při prezentaci zprávy v Ženevě oslovila média. „Jde o to, že pokud má být umělá inteligence používána v těchto velmi důležitých funkčních oblastech souvisejících s lidskými právy, pak musí být prováděna správně. A my prostě jsme nevytvořili strukturu, která to zajišťuje.“
Bacheletová nepožadovala úplný zákaztechnologie rozpoznávání obličeje, ale poznamenal, že vlády by měly přestat skenovat chování lidí v reálném čase. Například k hodnocení výkonu zaměstnanců. Musíte se ujistit, že technologie je přesná a že AI je nezaujatá a splňuje standardy ochrany soukromí a dat.
Zpráva také vyvolává obavy ohledněnástroje, které se pokoušejí určit emoční a mentální stav lidí analýzou jejich mimiky nebo pohybů těla. Odborníci zdůrazňují, že takové technologie podléhají zkreslení, nesprávné interpretaci a nedostatku vědeckého základu.
„Využití systémů státními orgányRozpoznání emocí, například za účelem zdůraznění jednotlivců za účelem policejního zadržení nebo zatčení nebo za účelem posouzení pravdivosti prohlášení během výslechů, představuje riziko podkopání lidských práv, jako je soukromí, svoboda a spravedlnost soudnictví, “uvádí zpráva.
Kde je problém používání AI obzvláště akutní?
I když názvy konkrétních zemí ve zprávěnejsou zmíněny, za zmínku stojí Čína. Připomeňme, že v květnu úřady zahájily program testování kamer pro rozpoznávání emocí na Ujgurech v západní oblasti Sin-ťiang. A uznání samotných Ujgurů. Připomeňme, že ještě v roce 2018 vydala Human Rights Watch zprávu o pronásledování muslimského obyvatelstva čínského regionu Sin-ťiang. Podle organizace tam byli Ujgurové v posledních letech hromadně a často bezdůvodně zadržováni, umisťováni do věznic a výchovných táborů; Miliony lidí jsou pod neustálým kamerovým dohledem a jejich sociální postavení a osud závisí na bodech nashromážděných v systému „sociálního kreditu“.
Klíčoví autoři zprávy však uvedli, že jmenování konkrétních zemí nespadá do jejich pravomoci a mohlo by být dokonce kontraproduktivní.
„Jak v čínském kontextua v jiných souvislostech nás znepokojuje transparentnost a diskriminační aplikace, které se zaměřují na konkrétní komunity,“ vysvětluje mluvčí OSN Peggy Hicksová.
Citovala několik soudních případů v USA a Austrálii, kde byla umělá inteligence zneužívána.
Jeden z nejhlučnějších precedensů ve Spojených státech -situace s Amazonem. Tato společnost je jedním z center vývoje v oblasti umělé inteligence. V roce 2017 společnost ukončila pilotní náborový projekt založený na AI, který běží již téměř tři roky. Jedním z klíčových problémů byla genderová diskriminace kandidátů - algoritmus podcenil hodnocení kandidátek.
Mezitím v Austrálii soud vytvořil průlomovýprecedens. Systémy umělé inteligence lze nyní legálně uznat jako vynálezce v patentových přihláškách. Ne všichni však s tímto rozhodnutím souhlasili.
Jaký je konečný výsledek?
Doporučení zprávy odrážejí názory mnohapolitičtí vůdci v západních demokraciích. Je důležité nejen využít ekonomický a sociální potenciál AI, ale také řešit rostoucí obavy o spolehlivost nástrojů, které sledují a profilují lidi.
Americká ministryně obchodu Gina Raimondo běhemvirtuální konference v červnu posílila obavy představitelů OSN. "Je děsivé přemýšlet o tom, jak to lze použít k dalšímu posílení diskriminačních tendencí," řekla. "Musíme se ujistit, že to nedovolíme."
Evropští regulátoři tedy již jsoupodnikli kroky k omezení nejrizikovějších aplikací AI. Navrhovaná pravidla, která letos představili představitelé Evropské unie, zakážou určitá použití umělé inteligence, jako je skenování obličeje v reálném čase, a přísně kontrolují jiná použití, která by mohla ohrozit bezpečnost lidí nebo lidská práva.
Číst Dále
Unikátní loď se během dvou minut promění v ponorku a je pro nepřítele neviditelná
Fyzici ochladili atomy na nejnižší teplotu na světě
Nejpodrobnější model vesmíru byl publikován online. Každý to může studovat