Cum a început totul?
Uniunea Europeană discută posibilitatea interzicerii utilizării artificiale
Ca parte a proiectului de rezoluție„Cu privire la o abordare europeană a inteligenței artificiale”, executivul UE propune interzicerea tehnologiilor AI care sunt utilizate pentru „supravegherea în masă aplicată într-o manieră generalizată tuturor indivizilor, fără nicio distincție”. Textul proiectului de lege descrie în detaliu metode de supraveghere precum „monitorizarea și urmărirea persoanelor în mediul digital sau fizic, precum și agregarea și analiza automată a datelor personale din diverse surse”, transmite agenția de presă REGNUM.
Comisia Europeană încearcă să declarea legii sistemelor de inteligență artificială (AI) utilizate pentru „supravegherea în masă a oamenilor” ca parte a noilor interdicții care vor fi introduse săptămâna viitoare.
În plus, Comisia Europeană prevede interdicțiisă utilizeze aplicații AI care încalcă valorile UE sau încalcă drepturile omului. Acestea includ sisteme care manipulează comportamentul uman și vizează populațiile vulnerabile.
Potrivit proiectului, de exemplu, membrii UE vor trebuisă creeze comitete de evaluare pentru a testa și valida sistemele de IA cu risc ridicat. Și companiile care dezvoltă sau vând AI care sunt supuse restricțiilor, inclusiv cele din alte țări ale lumii, pot fi amendate cu până la 4% din venitul lor global.
Ce este inteligența artificială cu „risc ridicat”?
Conform regulilor planificate, cei careintenționează să aplice inteligența artificială, va trebui să stabilească dacă un anumit caz de utilizare este „cu risc ridicat” și, prin urmare, dacă trebuie sau nu să efectueze o evaluare obligatorie a preconformității.
Exemple de AI cu risc ridicat:
- sisteme care prioritizează expedierea serviciilor de urgență,
- sisteme care determină accesul sau numirea persoanelor la instituțiile de învățământ,
- algoritmi de recrutare,
- cele care evaluează bonitatea,
- să efectueze evaluări individuale ale riscurilor,
- algoritmi pentru prezicerea infracțiunilor.
Care este esența facturii de control AI?
Vă explicăm ce prevede noul proiect de lege.
Colectarea de date despre cetățeni care utilizează sistemesupravegherea, monitorizarea rețelelor sociale, a informațiilor bancare și a altor surse - „supravegherea indiscriminată a persoanelor ar trebui interzisă dacă este aplicată într-o manieră generalizată tuturor indivizilor fără distincție”. Cu alte cuvinte, supravegherea „selectivă”, dacă o persoană are ceva de interes pentru autoritățile competente, poate fi permisă, dar supravegherea totală „pentru orice eventualitate” va fi probabil interzisă în Europa.
Proiectul de lege prevede, de asemenea, o interdicțieintroducerea unui sistem de rating social sau de creditare socială, atunci când asupra cetățenilor se acumulează o serie de date mari despre conexiuni, comportament, achiziții și alte informații și se creează un portret social al cetățeanului pe baza totalității datelor. AI sau rețelele neuronale pot ajuta, de asemenea, să înțeleagă acest lucru. Le place acest lucru în sectorul bancar, iar Europa nu face excepție în acest sens. Dar China a mers cel mai departe în crearea unui sistem de credit social, în care persoanelor cu rating scăzut li se refuză biletele pentru transportul interurban, rezidența în anumite zone și sunt introduse o serie de alte restricții. Astfel de sisteme de inteligență artificială au „șanse mari de a influența traiul cuiva”, notează lucrarea.
În ceea ce privește ratingul social din facturăa spus: „Sistemele de IA utilizate pentru evaluarea indicatorilor sociali cu scop general ar trebui interzise”. Votarea acestui proiect de lege este așteptată pe 21 aprilie. Până în acest moment, reprezentanții Comisiei Europene refuză să comenteze documentul neaprobat.
Proiectul prevede, de asemenea, pentru:
- notificări despre interacțiunea umană cu AI, cu excepția cazului în care este „evident din circumstanțe și context de utilizare”,
- evaluarea sistemelor cu risc ridicat înainte ca acestea să fiepunerea în funcțiune, inclusiv asigurarea faptului că aceste sisteme sunt ușor de înțeles pentru supraveghetorii umani și că sunt instruiți pe seturi de date „de înaltă calitate” testate pentru părtinire;
- crearea unui „Consiliu European pentru Inteligența Artificială”, format din reprezentanți ai tuturor țărilor UE.
Ce cred experții despre controlul AI?
Poate cea mai importantă secțiune a documentuluieste un articol care interzice anumite utilizări ale IA, inclusiv supravegherea în masă și ratingurile de credit sociale. Cu toate acestea, reacțiile la proiect din partea grupurilor pentru drepturile digitale și a experților în politici spun că această secțiune trebuie îmbunătățită.
„Descrierea sistemelor artificiale interziseinformațiile sunt vagi și conțin un limbaj neclar care poate crea lacune serioase”, explică Daniel Leufer, analist de politici europene la Access Now, într-un interviu pentru The Verge. Această secțiune, în cuvintele sale, este „departe de a fi ideală”.
Cum decide legislația naționalăDecizia AI a făcut rău cuiva sau nu? Pe de altă parte, interzicerea utilizării AI pentru supravegherea în masă este „prea îngăduitoare”. El adaugă că interzicerea sistemelor de credit social bazate pe „fiabilitatea” este, de asemenea, definită prea restrâns. Sistemele de credit social nu trebuie să evalueze dacă cineva este demn de încredere pentru a decide probleme precum eligibilitatea pentru beneficii.
Pe Twitter Omer Tene, Vicepreședinteorganizația non-profit IAPP (International Association of Privacy Professionals), a comentat că decizia „reprezintă o abordare tipică de la Bruxelles față de noile tehnologii și inovație. Când aveți îndoieli, ajustați-vă.” Potrivit lui Tene, dacă propunerile vor fi adoptate, se va crea un „ecosistem de reglementare vast” care va atrage nu numai creatorii de sisteme AI, ci și importatori, distribuitori și utilizatori și va crea o serie de consilii de reglementare, atât naționale, cât și ; în întreaga UE.
Cu toate acestea, acest ecosistem nu va fi primulEste rândul să limităm „Big Tech”, spune Michael Veale, lector în drepturi digitale și reglementări la University College London. „Se concentrează în primul rând pe furnizorii de instrumente de luare a deciziilor și de afaceri mai puțin cunoscuți a căror activitate eludează adesea controlul autorităților de reglementare sau al propriilor clienți.”
Nu se știe ce modificări ar fi putut fi făcuteîn acest proiect de propunere, în timp ce factorii politici din UE se pregătesc pentru un anunț oficial pe 21 aprilie . Cu toate acestea, odată ce este propus un regulament, acesta va fi supus modificărilor în urma feedbackului deputaților europeni și va trebui implementat separat în fiecare stat național.
De ce este nevoie de o nouă lege?
Un plan de reglementare a IA a fost deja discutat de ceva timp.timp. În februarie 2020, Comisia Europeană a publicat o carte albă care descrie planurile de reglementare a aplicațiilor de inteligență artificială „cu risc ridicat”. Deși nu este complet clar din noul proiect cum va fi determinat exact „riscul ridicat”.
Potrivit proiectului de proiect, obiectivul principalScopul Comisiei este de a crește încrederea publicului în IA prin controale și echilibrări bazate pe valorile UE. Scopul este de a stimula adoptarea așa-numitei IA „de încredere” și „centrate pe om”. Acest lucru se aplică nu numai aplicațiilor „cu risc ridicat”, ci și tuturor celor care interacționează cu o persoană.
Ce se va întâmpla dacă legea va fi adoptată?
Dacă proiectul de propunere este acceptat, va fiva avea ca rezultat o poziție puternică de către UE în privința anumitor aplicații IA. Unele utilizări vor fi supuse unor controale similare cu reglementările UE privind confidențialitatea digitală conform legislației GDPR.
Cerințele UE includ asigurareasiguranța și asigurarea acurateței consecvente a AI —cu condiția raportării „orice incidente grave sau orice defecțiune în funcționarea sistemului AI care constituie o încălcare a obligațiilor față de autoritatea de supraveghere15 ;zile după ce a conștientizat acest lucru.
Este de remarcat faptul că comisia a evitatpropuneri de interzicere a utilizării recunoașterii faciale în locuri publice. Potrivit unui proiect publicat la începutul anului trecut, ea se gândea la idee.
Nu se știe la ce modificări s-ar fi putut faceacesta este un proiect de propunere pe măsură ce politicienii UE se pregătesc pentru anunțul oficial din 21 aprilie. Cu toate acestea, odată ce regulamentul este propus, acesta va fi supus modificărilor după primirea feedback-ului de la deputați și trebuie implementat separat în fiecare stat național.
Nu este prima dată când Europa vorbește despre reglementareindustria tehnologică. Astfel, autoritățile UE vor să forțeze Google și Facebook să plătească editorilor pentru știri, iar la începutul anului, politicienii europeni i-au chemat pe șefii giganților tehnologici să discute legile care le limitează monopolul. Din toate punctele de vedere, legile elaborate vor prevedea o penalizare de 10% a veniturilor pentru giganții tehnologici pentru a-și limita monopolul.
Citeste mai mult
A fost creată prima hartă exactă a lumii. Ce este în neregulă cu toți ceilalți?
NASA a spus cum vor livra mostre de Marte pe Pământ
Un motor pentru un avion orbital a fost testat în Rusia
Regulamentul general privind protecția datelor, generalRegulamentul general privind protecția datelor (GDPR) este un regulament al Uniunii Europene prin care Parlamentul European, Consiliul Uniunii Europene și Comisia Europeană consolidează și unifică protecția datelor cu caracter personal ale tuturor persoanelor fizice din Uniunea Europeană (UE). De asemenea, regulamentul urmărește exportarea datelor din UE.
GDPR are ca scop în primul rând să asigure acest lucrude a oferi cetățenilor controlul asupra propriilor date cu caracter personal și de a simplifica cadrul de reglementare pentru relațiile economice internaționale prin unificarea reglementărilor în cadrul UE.
Sistemul de credit social ("cel socialrating "," sistem de încredere socială ") - un sistem de evaluare a cetățenilor individuali sau a organizațiilor prin diverși parametri, ale căror valori sunt obținute utilizând instrumente de supraveghere în masă și folosind tehnologia de analiză a datelor mari. A fost implementat pentru prima dată de guvernul chinez în anii 2010.