Hogy kezdődött az egész?
Az Európai Unió tárgyal a mesterséges anyagok használatának betiltásának lehetőségéről
A határozattervezet részeként„A mesterséges intelligencia európai megközelítésével kapcsolatban” az EU végrehajtó testülete azt javasolja, hogy tiltsák be az olyan mesterséges intelligencia technológiákat, amelyeket „minden egyénre, megkülönböztetés nélkül általánosan alkalmazott tömeges megfigyelésre használnak”. A törvényjavaslat szövege részletesen ismerteti az olyan megfigyelési módszereket, mint „az egyének digitális vagy fizikai környezetben történő nyomon követése, valamint a különböző forrásokból származó személyes adatok automatikus összesítése és elemzése” – írja a REGNUM hírügynökség.
Az Európai Bizottság igyekszik kijelentenia jövő héten bevezetendő új tilalmak részeként az emberek tömeges megfigyelésére használt mesterséges intelligencia (AI) törvényeinek törvénye.
Ezenkívül az Európai Bizottság betiltásokról rendelkezikaz AI értékeinek vagy az emberi jogoknak a megsértése. Ide tartoznak az emberi viselkedést manipuláló és a kiszolgáltatott lakosságot megcélzó rendszerek.
A tervezet szerint például az EU-tagoknak kellértékelő bizottságokat hoz létre a magas kockázatú mesterséges intelligencia rendszerek tesztelésére és validálására. A korlátozás alá eső mesterséges intelligenciát fejlesztő vagy forgalmazó vállalatok, beleértve a világ más országaiból érkezőket is, globális jövedelmük 4% -áig bírságolhatók.
Mi az a „magas kockázatú” mesterséges intelligencia?
A tervezett szabályok szerint azok, akikmesterséges intelligenciát szándékozik alkalmazni, meg kell határoznia, hogy egy adott felhasználási eset "nagy kockázatú-e", és ezért kötelezően elvégeznie kell-e az előzetes megfelelés értékelését vagy sem.
Példák a magas kockázatú AI-re:
- a sürgősségi szolgálatok diszpécserét előtérbe helyező rendszerek,
- rendszerek, amelyek meghatározzák az emberek oktatási intézményekhez való hozzáférését vagy kinevezését,
- toborzási algoritmusok,
- azok, amelyek értékelik a hitelképességet,
- egyedi kockázatértékelések elvégzése,
- algoritmusok a bűncselekmények előrejelzésére.
Mi a lényege az AI ellenőrzési számlának?
Elmagyarázzuk, mit nyújt az új törvényjavaslat.
Adatgyűjtés a rendszereket használó állampolgárokrólmegfigyelés, közösségi hálózatok, banki információk és egyéb források megfigyelése – "az egyének válogatás nélküli megfigyelését meg kell tiltani, ha azt megkülönböztetés nélkül általánosan alkalmazzák minden egyénre." Más szóval, a „szelektív” megfigyelés, ha az egyénnek valami érdekli az illetékes hatóságokat, megengedhető, de a teljes körű megfigyelés „minden esetre” valószínűleg tiltott lesz Európában.
A törvényjavaslat tiltásról is rendelkeziktársadalmi minősítési vagy társadalmi besorolási rendszer bevezetése, amikor a kapcsolatokról, viselkedésről, vásárlásokról és egyéb információkról big data tömbje halmozódik fel, és az adatok összessége alapján létrejön az állampolgár társadalmi portréja. Az AI vagy a neurális hálózatok szintén segíthetnek ennek kiderítésében. Szeretik ezt a bankszektorban, és Európa sem kivétel e tekintetben. De Kína ment a legmesszebbre a szociális kreditrendszer létrehozásában, ahol az alacsony besorolású emberektől megtagadják a helyközi közlekedésre való jegyet, bizonyos területeken való tartózkodást, és számos egyéb korlátozást vezetnek be. Az ilyen AI-rendszereknek „nagy esélyük van valakinek a megélhetését befolyásolni” – jegyzi meg a lap.
A számlán szereplő társadalmi besorolást illetőenazt mondta: "Meg kell tiltani az általános célú társadalmi mutatók értékelésére használt mesterséges intelligencia-rendszereket." A törvényjavaslat április 21-én várható. Eddig a pontig az Európai Bizottság képviselői nem hajlandók kommentálni a jóváhagyatlan dokumentumot.
A projekt a következőket is előírja:
- értesítések az MI-vel való emberi interakcióról, kivéve, ha ez „a felhasználás körülményeiből és kontextusából nyilvánvaló”,
- a magas kockázatú rendszerek értékelése, mielőtt azok léteznéneküzembe helyezés, beleértve annak biztosítását, hogy ezek a rendszerek érthetőek legyenek a humán felügyelők számára, és képzésben részesüljenek a torzítás szempontjából tesztelt „kiváló minőségű” adatkészletekről,
- a „Mesterséges Intelligencia Európai Tanácsának” létrehozása, amely az összes uniós ország képviselőiből áll.
Mit gondolnak a szakértők az AI-vezérlésről?
Talán a dokumentum legfontosabb részeegy olyan cikk, amely megtiltja az mesterséges intelligencia bizonyos felhasználásait, beleértve a tömeges felügyeletet és a társadalmi hitelminősítéseket. A digitális jogvédő csoportok és szakpolitikai szakértők reakciói a projektre azonban azt mondják, hogy ezen a szakaszon javítani kell.
„Tiltott mesterséges rendszerek leírásaaz intelligencia homályos és homályos nyelvezetet tartalmaz, amely komoly kiskapukat teremthet” – magyarázza Daniel Leufer, az Access Now európai politikai elemzője a The Verge-nek adott interjújában. Ez a szakasz az ő szavai szerint „messze van az ideálistól”.
Hogyan döntenek pontosan a nemzeti jogszabályokAz AI-döntés ártott valakinek vagy sem? Másrészt a mesterséges intelligencia tömeges megfigyelésre való használatának tilalma „túl engedékeny”. Hozzáteszi: túl szűken határozzák meg a "megbízhatóságon" alapuló szociális kreditrendszerek tilalmát is. A szociális kreditrendszereknek nem kell felmérniük, hogy valaki megbízható-e ahhoz, hogy eldöntse olyan kérdéseket, mint például az ellátásra való jogosultság.
A Twitternél Omer Tene, alelnökaz IAPP (International Association of Privacy Professionals) non-profit szervezet megjegyezte, hogy az ítélet „tipikus brüsszeli megközelítést képvisel az új technológiákkal és innovációval kapcsolatban. Ha kétségei vannak, állítsa be." Tene szerint, ha a javaslatokat elfogadják, az egy „hatalmas szabályozási ökoszisztémát” hoz létre, amely nemcsak az AI-rendszerek létrehozóit vonzza majd, hanem az importőröket, a terjesztőket és a felhasználókat is, és számos szabályozó testületet hoz létre, nemzeti és ; EU-szerte.
Azonban nem ez az ökoszisztéma lesz az elsőItt a sor a „Big Tech” korlátozásán – mondja Michael Veale, a University College London digitális jogokkal és szabályozásokkal foglalkozó oktatója. „Fókuszában elsősorban a kevésbé ismert üzleti és döntéshozatali eszközök szolgáltatói állnak, akiknek munkája gyakran elkerüli a szabályozók vagy saját ügyfeleik felügyeletét.”
Nem tudni, milyen változtatások történhettekebben a javaslattervezetben, miközben az EU politikusai készülnek az április 21-i hivatalos bejelentésre. A rendeletjavaslatot követően azonban az EP-képviselők visszajelzései alapján módosulni fog, és minden nemzetállamban külön kell végrehajtani.
Miért van szükség új törvényre?
A mesterséges intelligencia szabályozásának tervét már egy ideje tárgyalják.idő. Az Európai Bizottság még 2020 februárjában közzétett egy fehér könyvet, amelyben felvázolja a „magas kockázatú” mesterséges intelligencia alkalmazások szabályozásának terveit. Bár az új tervezetből nem teljesen világos, hogy pontosan hogyan határozzák meg a „magas kockázatot”.
A tervezet tervezete szerint a fő célA Bizottság célja itt az, hogy az uniós értékeken alapuló fékek és ellensúlyok révén növelje a közvélemény MI-be vetett bizalmát. A cél az úgynevezett „megbízható” és „emberközpontú” AI elfogadásának ösztönzése. Ez nem csak a „magas kockázatú” alkalmazásokra vonatkozik, hanem mindenkire, aki kapcsolatba lép egy személlyel.
Mi lesz, ha elfogadják a törvényt?
Ha a javaslattervezetet elfogadják, akkor elfogadjákeredményeképpen az EU határozott álláspontot foglal el bizonyos mesterséges intelligencia-alkalmazásokkal kapcsolatban. Egyes felhasználásokra a GDPR-jogszabályok értelmében az EU digitális adatvédelmi szabályozásához hasonló ellenőrzések vonatkoznak.
Az EU követelményei közé tartozik annak biztosításabiztonsága és az AI következetes pontosságának biztosítása – azzal a feltétellel, hogy bejelentsék „bármilyen súlyos incidenst vagy az AI-rendszer működésében fellépő bármely olyan meghibásodást, amely kötelezettségszegést jelent, legkésőbb 15  a felügyeleti hatóság felé ;napokkal azután, hogy tudomást szerzett erről.
Figyelemre méltó, hogy a bizottság elkerültejavaslatok az arcfelismerés nyilvános helyeken történő használatának betiltására. A tavaly év elején kiszivárgott tervezet szerint mérlegelte az ötletet.
Nem ismert, hogy milyen változások történhettekezt a javaslattervezetet, amikor az uniós politikusok felkészülnek az április 21-i hivatalos bejelentésre. A rendeletre irányuló javaslatot követően azonban az EP-képviselők visszajelzését követően módosulhat, és azt minden egyes nemzetállamban külön kell végrehajtani.
Európa nem először beszél a szabályozásróltechnológiai ipar. Így az uniós hatóságok arra akarják kényszeríteni a Google-t és a Facebookot, hogy fizessenek a kiadóknak a hírekért, és az év elején az európai politikusok felhívták a technológiai óriások vezetőit, hogy megvitassák monopóliumukat korlátozó törvényeket. Minden szempontból a készülő törvények 10% -os bevételi bírságot fognak előírni a technológiai óriások számára monopóliumuk korlátozására.
Olvass tovább
Létrehozták az első pontos világtérképet. Mi a baj mindenki mással?
A NASA elmondta, hogyan szállítják a Mars mintáit a Földre
Egy orbitális repülőgép motorját Oroszországban tesztelték
Általános adatvédelmi rendelet, ÁltalánosAz Általános Adatvédelmi Rendelet (GDPR) az Európai Unió rendelete, amelyen keresztül az Európai Parlament, az Európai Unió Tanácsa és az Európai Bizottság megerősíti és egységesíti az Európai Unióban (EU) élő valamennyi egyén személyes adatainak védelmét. A rendelet célja továbbá az adatok exportálása az EU-ból.
A GDPR elsősorban ennek biztosítására irányula polgárok kezébe adni saját személyes adataik feletti ellenőrzést, és az EU-n belüli szabályozás egységesítésével egyszerűsíteni a nemzetközi gazdasági kapcsolatok szabályozási kereteit.
A szociális kreditrendszer ("a szociális kreditrendszer"minősítés "," a társadalmi bizalom rendszere ") - az egyes állampolgárok vagy szervezetek különféle paraméterek szerinti kiértékelésének rendszere, amelynek értékeit tömeges megfigyelési eszközökkel és nagy adatelemzési technológiával nyerik. Először a kínai kormány hajtotta végre a 2010-es években.