Hogy kezdődött az egész?
2021 szeptemberében új ENSZ-jelentést tettek közzé. Szakértők tanulmányozták, hogyan országok és vállalatok
Tegnap Michel, az ENSZ emberi jogi főnökeBachelet moratóriumot sürgetett az emberi jogokat súlyosan veszélyeztető mesterséges intelligencia technológiák alkalmazására. Beleértve a nyilvános helyeken embereket nyomon követő személyek szkennelésére szolgáló rendszereket. Megjegyezte, hogy az országoknak haladéktalanul be kell tiltaniuk az AI alkalmazásokat, amelyek nem felelnek meg a nemzetközi emberi jogi jogszabályoknak.
Hol elfogadhatatlan az AI használata?
Betiltani kell az alkalmazásokatIde tartoznak a kormányzati „társadalmi besorolási” rendszerek, amelyek az embereket viselkedésük alapján értékelik, és bizonyos AI-alapú eszközök, amelyek csoportokra osztják az embereket, például etnikai hovatartozás vagy nem.
Mesterségesen alapuló technológiákAz intelligencia "jót hozó erő lehet", és "negatív, sőt katasztrofális következményekhez is vezethet", ha nem veszik figyelembe, hogy milyen hatással vannak az emberi jogokra - mondta Bachelet közleményében.
„Nem a mesterségesek hiányáról van szóhírszerzés” – magyarázta Peggy Hicks, az ENSZ Emberi Jogi Központjának tematikus interakcióért felelős igazgatója az újságíróknak. Genfben a jelentés bemutatása közben szólt a médiához. „A lényeg az, hogy ha a mesterséges intelligenciát ezeken az emberi jogokkal kapcsolatos nagyon fontos funkcionális területeken fogják használni, akkor azt helyesen kell csinálni. És egyszerűen nem hoztuk létre azt a struktúrát, amely ezt biztosítja.”
Bachelet nem kért teljes kitiltástarcfelismerő technológia, de megjegyezte, hogy a kormányoknak fel kell hagyniuk az emberek viselkedésének valós idejű vizsgálatával. Például a személyzet teljesítményének értékelésére. Gondoskodnia kell arról, hogy a technológia pontos legyen, és hogy a mesterséges intelligencia elfogulatlan legyen, és megfeleljen az adatvédelmi és adatvédelmi szabványoknak.
A jelentés aggályokat vet fel azzal kapcsolatban iseszközök, amelyek arckifejezésük vagy testmozgásuk elemzésével próbálják meghatározni az emberek érzelmi és mentális állapotát. A szakértők hangsúlyozzák, hogy az ilyen technológiák elfogultságnak, téves értelmezésnek és tudományos alap hiányának vannak kitéve.
"A rendszerek állami hatóságok általi használataAz érzelmek felismerése, például a rendőrségi fogva tartás vagy letartóztatás céljából kiemelt személyek kiemelése vagy a kihallgatások során tett nyilatkozatok valódiságának felmérése, veszélyeztetheti az emberi jogokat, mint például a magánélet, a szabadság és az igazságszolgáltatás igazságossága ” - áll a jelentésben.
Hol van különösen akut az AI használatának problémája?
Хотя названия конкретных стран в отчете не упоминаются, стоит упомянуть Китай. Напомним, в мае власти запустили в западном регионе Синьцзян программу тестирования на уйгурах камеры распознавания эмоций. И распознавания самих уйгуров. Напомним, Human Rights Watch еще в 2018 году опубликовала доклад о преследованиях мусульманского населения китайского региона Синьцзян. По данным организации, в последние годы там массово и зачастую безосновательно задерживают уйгуров, помещая их в тюрьмы и воспитательные лагеря; за миллионами людей организована постоянная видеослежка, а их социальное положение и судьба зависят от баллов, начисленных в системе «социального кредита».
Тем не менее, ключевые авторы отчета заявили, что наименование конкретных стран не входит в их полномочия и даже может быть контрпродуктивным.
«В китайском контексте, как и в других контекстах, мы обеспокоены прозрачностью и дискриминационными приложениями, которые адресованы конкретным сообществам», — объясняет представительница ООН Пегги Хикс.
Számos bírósági ügyre hivatkozott az Egyesült Államokban és Ausztráliában, ahol a mesterséges intelligenciával visszaéltek.
Az Egyesült Államok egyik leghangosabb előzménye -az Amazon helyzete. Ez a vállalat a mesterséges intelligencia területén a fejlődés egyik központja. 2017-ben a vállalat lezárta a kísérleti mesterséges intelligencián alapuló toborzási projektet, amelyet közel három éve folytat. Az egyik legfontosabb probléma a jelöltek nemi megkülönböztetése volt - az algoritmus alábecsülte a női jelöltek értékelését.
Eközben Ausztráliában a bíróság úttörőt hozott létreprecedens. A mesterséges intelligencia rendszereket ma már jogilag el lehet ismerni feltalálóként a szabadalmi bejelentésekben. Ezzel a döntéssel azonban nem mindenki értett egyet.
Mi a lényeg?
A jelentés ajánlásai sokak véleményét tükrözikpolitikai vezetők a nyugati demokráciákban. Fontos nemcsak az AI gazdasági és társadalmi potenciáljának kiaknázása, hanem az emberek nyomon követését és profilját szolgáló eszközök megbízhatóságával kapcsolatos növekvő aggodalmak kezelése is.
Gina Raimondo amerikai kereskedelmi miniszter közbenegy júniusi virtuális konferencia megerősítette az ENSZ tisztviselőinek aggodalmait. "Félelmetes belegondolni, hogyan lehetne felhasználni a diszkriminatív tendenciák további megerősítésére" - mondta. "Meg kell győződnünk arról, hogy ezt nem engedjük meg."
Így az európai szabályozók márlépéseket tettek a legkockázatosabb AI -alkalmazások visszaszorítása érdekében. Az Európai Unió tisztviselői által idén kidolgozott javasolt szabályok megtiltják az AI bizonyos felhasználásait, például a valós idejű arcszkennelést, és szigorúan ellenőrzik azokat az egyéb felhasználásokat, amelyek veszélyeztethetik az emberi biztonságot vagy az emberi jogokat.
Olvasni További
Egy egyedi csónak két perc alatt tengeralattjáróvá változik, és láthatatlan az ellenség számára
A fizikusok a világ legalacsonyabb hőmérsékletére hűtötték az atomokat
Az Univerzum legrészletesebb modelljét közzétették az interneten. Bárki tanulmányozhatja