Come è iniziato tutto?
L'Unione Europea sta discutendo la possibilità di vietare l'uso di artificiali
Nell'ambito del progetto di risoluzione“Su un approccio europeo all’intelligenza artificiale”, l’esecutivo dell’UE propone di vietare le tecnologie di intelligenza artificiale utilizzate per “la sorveglianza di massa applicata in modo generalizzato a tutti gli individui senza alcuna distinzione”. Il testo del disegno di legge descrive in dettaglio metodi di sorveglianza come "il monitoraggio e il tracciamento delle persone nell'ambiente digitale o fisico, nonché l'aggregazione e l'analisi automatica dei dati personali provenienti da varie fonti", riferisce l'agenzia di stampa REGNUM.
La Commissione europea cerca di dichiarare fuoridella legge sui sistemi di intelligenza artificiale (AI) utilizzati per la "sorveglianza di massa delle persone" nell'ambito dei nuovi divieti che verranno introdotti la prossima settimana.
Inoltre, la Commissione Europea prevede divietiutilizzare applicazioni di intelligenza artificiale che violano i valori dell'UE o violano i diritti umani. Questi includono sistemi che manipolano il comportamento umano e prendono di mira le popolazioni vulnerabili.
Secondo il progetto, i membri dell'UE, ad esempio, dovrannocreare comitati di valutazione per testare e convalidare i sistemi di intelligenza artificiale ad alto rischio. E le aziende che sviluppano o vendono AI soggette a restrizioni, comprese quelle di altri paesi del mondo, possono essere multate fino al 4% del loro reddito globale.
Cos’è l’intelligenza artificiale “ad alto rischio”?
Secondo le regole previste, coloro cheintende applicare l'intelligenza artificiale, dovrà determinare se un particolare caso d'uso è "ad alto rischio" e quindi se è necessario condurre o meno una valutazione pre-conformità obbligatoria.
Esempi di IA ad alto rischio:
- sistemi che danno priorità al dispacciamento dei servizi di emergenza,
- sistemi che determinano l'accesso o la nomina delle persone alle istituzioni educative,
- algoritmi di reclutamento,
- quelli che valutano il merito creditizio,
- effettuare valutazioni dei rischi individuali,
- algoritmi per la previsione dei crimini.
Qual è l'essenza della legge sul controllo dell'IA?
Spieghiamo cosa prevede il nuovo disegno di legge.
Raccolta di dati sui cittadini che utilizzano i sistemisorveglianza, monitoraggio dei social network, delle informazioni bancarie e di altre fonti - "la sorveglianza indiscriminata degli individui dovrebbe essere vietata se applicata in modo generalizzato a tutti gli individui senza distinzione." In altre parole, la sorveglianza “selettiva”, se un individuo ha qualcosa di interessante per le autorità competenti, potrebbe essere consentita, ma la sorveglianza totale “per ogni evenienza” sarà probabilmente vietata in Europa.
Il disegno di legge prevede anche il divietointroduzione di un sistema di rating sociale o di credito sociale, quando una serie di big data su connessioni, comportamenti, acquisti e altre informazioni viene accumulata sui cittadini e viene creato un ritratto sociale del cittadino basato sulla totalità dei dati. Anche l’intelligenza artificiale o le reti neurali possono aiutare a capirlo. Lo adorano nel settore bancario e l'Europa non fa eccezione a questo riguardo. Ma la Cina è andata più lontano nella creazione di un sistema di credito sociale, in cui alle persone con un rating basso vengono negati i biglietti per il trasporto interurbano, la residenza in determinate aree e vengono introdotte una serie di altre restrizioni. Tali sistemi di intelligenza artificiale hanno “un’alta probabilità di influenzare il sostentamento di qualcuno”, osserva il documento.
Per quanto riguarda il social rating in bollettaha dichiarato: "I sistemi di intelligenza artificiale utilizzati per valutare gli indicatori sociali di scopo generale dovrebbero essere vietati". Il voto su questo disegno di legge è previsto per il 21 aprile. Fino a questo momento, i rappresentanti della Commissione europea si rifiutano di commentare il documento non approvato.
Il progetto prevede inoltre:
- notifiche sull'interazione umana con l'intelligenza artificiale, a meno che non sia "ovvia dalle circostanze e dal contesto di utilizzo",
- valutazione dei sistemi ad alto rischio prima che vengano realizzatimessa in servizio, inclusa la garanzia che questi sistemi siano comprensibili ai supervisori umani e che siano addestrati su set di dati di "alta qualità" testati per individuare errori,
- creazione di un “Consiglio europeo sull’intelligenza artificiale”, composto da rappresentanti di tutti i paesi dell’UE.
Cosa pensano gli esperti del controllo dell'IA?
Forse la sezione più importante del documentoè un articolo che vieta determinati usi dell'IA, tra cui la sorveglianza di massa e i rating del credito sociale. Tuttavia, le reazioni al progetto da parte di gruppi per i diritti digitali ed esperti di politiche affermano che questa sezione deve essere migliorata.
“Descrizioni di sistemi artificiali proibitile informazioni sono vaghe e contengono un linguaggio poco chiaro che può creare gravi lacune”, spiega Daniel Leufer, analista politico europeo di Access Now, in un’intervista a The Verge. Questa sezione, nelle sue parole, è “tutt’altro che ideale”.
Come decide esattamente la legislazione nazionaleLa decisione dell’IA ha causato danni a qualcuno oppure no? D’altro canto, il divieto di utilizzare l’intelligenza artificiale per la sorveglianza di massa è “troppo indulgente”. Aggiunge che anche il divieto dei sistemi di credito sociale basati sull'"affidabilità" è definito in modo troppo restrittivo. I sistemi di credito sociale non hanno bisogno di valutare se qualcuno è affidabile per decidere questioni come la sua ammissibilità ai benefici.
Su Twitter Omer Tene, VicepresidenteL'organizzazione no-profit IAPP (Associazione internazionale dei professionisti della privacy), ha commentato che la sentenza “rappresenta un tipico approccio di Bruxelles alle nuove tecnologie e all'innovazione. Nel dubbio aggiustatevi." Secondo Tene, se le proposte verranno adottate, si creerà un “vasto ecosistema normativo” che attirerà non solo i creatori di sistemi di intelligenza artificiale, ma anche importatori, distributori e utenti, e creerà una serie di comitati di regolamentazione, sia nazionali che internazionali; in tutta l'UE.
Tuttavia, questo ecosistema non sarà il primoÈ il momento di limitare “Big Tech”, afferma Michael Veale, docente di diritti e normative digitali presso l’University College di Londra. "La sua attenzione si concentra principalmente su fornitori di strumenti aziendali e decisionali meno conosciuti, il cui lavoro spesso sfugge al controllo delle autorità di regolamentazione o dei loro stessi clienti."
Non è noto quali modifiche possano essere state apportatein questa bozza di proposta mentre i politici dell’UE si preparano per un annuncio ufficiale il 21 aprile. Tuttavia, una volta proposto un regolamento, questo sarà soggetto a modifiche in seguito al feedback dei deputati e dovrà essere implementato separatamente in ciascuno stato nazionale.
Perché è necessaria una nuova legge?
Un piano per regolamentare l’IA è già in discussione da tempo.tempo. Nel febbraio 2020, la Commissione europea ha pubblicato un libro bianco in cui delinea i piani per regolamentare le applicazioni di intelligenza artificiale “ad alto rischio”. Anche se non è del tutto chiaro dalla nuova bozza come verrà determinato esattamente il “rischio elevato”.
Secondo il progetto di bozza, l'obiettivo principaleL’obiettivo della Commissione in questo caso è aumentare la fiducia del pubblico nell’IA attraverso controlli ed equilibri basati sui valori dell’UE. L’obiettivo è stimolare l’adozione della cosiddetta IA “affidabile” e “incentrata sull’uomo”. Ciò vale non solo per le applicazioni “ad alto rischio”, ma per tutti coloro che interagiscono con una persona.
Cosa accadrà se la legge sarà approvata?
Se la bozza di proposta verrà accettata, lo faràporterà l’UE ad assumere una posizione forte su alcune applicazioni di intelligenza artificiale. Alcuni utilizzi saranno soggetti a controlli simili al regolamento sulla privacy digitale dell'UE ai sensi della legislazione GDPR.
I requisiti dell’UE includono la garanziasicurezza e garantire la costante accuratezza dell'IA, con la condizione di segnalare "qualsiasi incidente grave o qualsiasi guasto nel funzionamento del sistema di IA che costituisca una violazione degli obblighi nei confronti dell'autorità di vigilanza entro e non oltre 15" ;giorni dopo ne venne a conoscenza.
È interessante notare che la commissione ha evitatoproposte per vietare l'uso del riconoscimento facciale nei luoghi pubblici. Secondo una bozza trapelata all'inizio dell'anno scorso, stava considerando l'idea.
Non è noto quali modifiche potrebbero essere state apportate aquesta è una bozza di proposta mentre i politici dell'UE si preparano per l'annuncio ufficiale del 21 aprile. Tuttavia, una volta che il regolamento sarà proposto, sarà soggetto a modifiche dopo aver ricevuto feedback dai deputati e dovrà essere attuato separatamente in ciascuno stato nazionale.
Non è la prima volta che l'Europa parla di regolamentazionesettore tecnologico. Pertanto, le autorità dell'UE vogliono costringere Google e Facebook a pagare gli editori per le notizie e all'inizio dell'anno i politici europei hanno chiamato i capi dei giganti della tecnologia per discutere le leggi che limitano il loro monopolio. A detta di tutti, le leggi in fase di stesura prevederanno una sanzione del 10% sulle entrate per i giganti della tecnologia per limitare il loro monopolio.
Leggi di più
È stata creata la prima mappa accurata del mondo. Cosa c'è di sbagliato in tutti gli altri?
La NASA ha detto come consegneranno campioni di Marte sulla Terra
Un motore per un aereo orbitale è stato testato in Russia
Regolamento generale sulla protezione dei dati, generaleIl Regolamento generale sulla protezione dei dati (GDPR) è un regolamento dell'Unione Europea attraverso il quale il Parlamento Europeo, il Consiglio dell'Unione Europea e la Commissione Europea rafforzano e unificano la protezione dei dati personali di tutti gli individui nell'Unione Europea (UE). Il regolamento mira anche a esportare dati dall'UE.
Il GDPR mira principalmente a garantire questodare ai cittadini il controllo sui propri dati personali e semplificare il quadro normativo per le relazioni economiche internazionali unificando la regolamentazione all’interno dell’UE.
Il sistema del credito sociale ("il socialrating ""," sistema di fiducia sociale ") - un sistema per valutare singoli cittadini o organizzazioni in base a vari parametri, i cui valori sono ottenuti utilizzando strumenti di osservazione di massa e utilizzando la tecnologia di analisi dei big data. È stato implementato per la prima volta dal governo cinese negli anni 2010.