Come è iniziato tutto?
Un nuovo rapporto delle Nazioni Unite è stato pubblicato nel settembre 2021. Gli esperti hanno studiato come i paesi e le aziende
Ieri il capo delle Nazioni Unite per i diritti umani MichelBachelet, ha chiesto una moratoria sull'uso delle tecnologie di intelligenza artificiale che rappresentano una seria minaccia per i diritti umani. Compresi i sistemi per la scansione delle persone che rintracciano le persone nei luoghi pubblici. Ha osservato che i paesi dovrebbero immediatamente vietare le applicazioni di intelligenza artificiale che non rispettano il diritto internazionale sui diritti umani.
Dove è inaccettabile l'uso dell'IA?
Applicazioni da bandireQuesti includono i sistemi di "valutazione sociale" del governo che valutano le persone in base al loro comportamento e alcuni strumenti basati sull'intelligenza artificiale che dividono le persone in gruppi, come l'etnia o il genere.
Tecnologie basate sull'artificialeL’intelligence “può essere una forza positiva” e può anche portare a “conseguenze negative, persino catastrofiche”, se utilizzata senza considerare il modo in cui incide sui diritti umani, ha affermato Bachelet in una nota.
“Non è questione di mancanza di artificialeintelligence”, ha spiegato ai giornalisti Peggy Hicks, direttrice dell’interazione tematica presso il Centro per i diritti umani delle Nazioni Unite. Si è rivolta ai media durante la presentazione del rapporto a Ginevra. “Il punto è che se si intende utilizzare l’intelligenza artificiale in queste aree funzionali molto importanti legate ai diritti umani, allora deve essere fatto correttamente. E semplicemente non abbiamo creato la struttura che lo garantisce”.
La Bachelet non ha chiesto un divieto totaletecnologia di riconoscimento facciale, ma ha osservato che i governi dovrebbero smettere di scansionare il comportamento delle persone in tempo reale. Ad esempio, per valutare le prestazioni del personale. È necessario garantire che la tecnologia sia accurata e che l’intelligenza artificiale sia imparziale e soddisfi gli standard di privacy e protezione dei dati.
Il rapporto solleva anche preoccupazioni sustrumenti che cercano di determinare lo stato emotivo e mentale delle persone analizzando le loro espressioni facciali o i movimenti del corpo. Gli esperti sottolineano che tali tecnologie sono soggette a pregiudizi, interpretazioni errate e mancanza di una base scientifica.
"L'uso dei sistemi da parte delle autorità stataliRiconoscere le emozioni, ad esempio per evidenziare gli individui per la detenzione o l'arresto della polizia, o per valutare la veridicità delle dichiarazioni durante gli interrogatori, rischia di minare i diritti umani come la privacy, la libertà e l'equità della magistratura ", afferma il rapporto.
Dov'è particolarmente acuto il problema dell'uso dell'intelligenza artificiale?
Sebbene i nomi di paesi specifici nel rapportonon vengono menzionati, vale la pena menzionare la Cina. Ricordiamo che a maggio le autorità hanno lanciato un programma per testare le telecamere per il riconoscimento delle emozioni sugli uiguri nella regione occidentale dello Xinjiang. E il riconoscimento degli stessi uiguri. Ricordiamo che già nel 2018 Human Rights Watch ha pubblicato un rapporto sulla persecuzione della popolazione musulmana nella regione cinese dello Xinjiang. Secondo l’organizzazione, negli ultimi anni gli uiguri sono stati detenuti lì in massa e spesso senza motivo, collocandoli in prigioni e campi educativi; Milioni di persone sono costantemente videosorvegliate e il loro status sociale e il loro destino dipendono dai punti accumulati nel sistema di “credito sociale”.
Tuttavia, gli autori principali del rapporto hanno affermato che nominare paesi specifici non rientra nelle loro competenze e potrebbe addirittura essere controproducente.
“Nel contesto cinese, comee in altri contesti, siamo preoccupati per la trasparenza e le applicazioni discriminatorie che prendono di mira comunità specifiche”, spiega la portavoce delle Nazioni Unite Peggy Hicks.
Ha citato diversi casi giudiziari negli Stati Uniti e in Australia in cui l'intelligenza artificiale è stata utilizzata in modo improprio.
Uno dei precedenti più rumorosi negli Stati Uniti -situazione con Amazon. Questa società è uno dei centri di sviluppo nel campo dell'intelligenza artificiale. Nel 2017, l'azienda ha chiuso un progetto pilota di reclutamento basato sull'intelligenza artificiale che era in corso da quasi tre anni. Uno dei problemi chiave era la discriminazione di genere dei candidati: l'algoritmo ha sottovalutato le valutazioni delle candidate.
Nel frattempo, in Australia, il tribunale ha creato una soluzione rivoluzionariaprecedente. I sistemi di intelligenza artificiale possono ora essere legalmente riconosciuti come inventori nelle domande di brevetto. Tuttavia, non tutti erano d'accordo con questa decisione.
Qual è la linea di fondo?
Le raccomandazioni del rapporto riflettono le opinioni di moltileader politici nelle democrazie occidentali. È importante non solo sfruttare il potenziale economico e sociale dell'IA, ma anche affrontare le crescenti preoccupazioni sull'affidabilità degli strumenti che tracciano e profilano le persone.
Il Segretario al Commercio degli Stati Uniti Gina Raimondo duranteuna conferenza virtuale a giugno ha rafforzato le preoccupazioni dei funzionari delle Nazioni Unite. "Fa paura pensare a come può essere usato per rafforzare ulteriormente le tendenze discriminatorie", ha detto. "Dobbiamo assicurarci di non permetterlo".
Pertanto, i regolatori europei sono giàhanno adottato misure per limitare le applicazioni di intelligenza artificiale più rischiose. Le regole proposte, stabilite dai funzionari dell'Unione europea quest'anno, vieteranno determinati usi dell'intelligenza artificiale, come la scansione facciale in tempo reale, e controlleranno strettamente altri usi che potrebbero minacciare la sicurezza umana o i diritti umani.
Leggere Ulteriore
Una barca unica si trasforma in un sottomarino in due minuti ed è invisibile al nemico
I fisici hanno raffreddato gli atomi alla temperatura più bassa del mondo
Il modello più dettagliato dell'Universo è stato pubblicato online. Chiunque può studiarlo