L'intelligenza artificiale ha cercato di prevedere il criminale in faccia
Nel giugno 2020 è apparso uno studio controverso
In risposta alla pubblicazione è apparsauna lettera aperta all'editore Nature, firmata da più di 2.000 ricercatori, scienziati e studenti dell'IA. Hanno invitato la rivista scientifica a non pubblicare lo studio, sostenendo che "Recenti esempi di pregiudizi algoritmici basati su razza, classe e genere hanno rivelato la tendenza strutturale dei sistemi di apprendimento automatico a rafforzare forme storiche di discriminazione e hanno rinnovato interesse per l'etica della tecnologia e il suo ruolo nella società.
Nella lettera, gli esperti hanno sollevato due importanti questioni.Gli scienziati ci hanno chiesto di pensare a chi sarà influenzato negativamente dall'integrazione dell'apprendimento automatico nelle istituzioni e nei processi esistenti? E inoltre, in che modo la pubblicazione di questo lavoro legittimerà la discriminazione nei confronti dei gruppi vulnerabili?”.
In risposta, l'editore di Nature ha dichiarato di nopubblicare lo studio su un giornale. L'Università di Harrisburg ha rimosso il comunicato stampa che delineava i dettagli dello studio e ha rilasciato una dichiarazione. In esso, hanno assicurato il pubblico che “i docenti stanno aggiornando il documento per affrontare le preoccupazioni”.
L'IA ha confuso il pallone da calcio e la testa pelata dell'arbitro
Nell'ottobre 2020 Scottish Football ClubL'Inverness Caledonian Thistle FC ha annunciato che le sue partite casalinghe saranno trasmesse in streaming dal vivo grazie al sistema di telecamere Pixellot alimentato dall'intelligenza artificiale di recente installazione. Purtroppo, nei suoi tentativi di seguire la partita al Caledonian Stadium, la tecnologia di tracciamento della palla AI ha ripetutamente confuso la palla con la testa pelata dell'arbitro, specialmente quando è stata oscurata da giocatori o ombre. Nonostante fosse una storia divertente, la squadra e i tifosi che hanno assistito alla partita in casa erano scontenti.
Introduzione di telecamere di tracciamento della palla artificialel'intelligence promette di rendere la trasmissione in diretta economica per gli impianti sportivi e le squadre (non è necessario pagare gli operatori). Ma tali fallimenti possono, al contrario, alienare gli spettatori. Pixellot afferma di creare oltre 90.000 ore di contenuti live ogni mese utilizzando il suo sistema di telecamere. Sono fiduciosi che modificare l'algoritmo per utilizzare più dati risolverà il fiasco del tracciamento della testa calva.
Chatbot ha consigliato al paziente di uccidersi
Nel 2020, un chatbot ha suggerito una persona da uccidereme stessa. È stato creato un bot basato su GPT-3 per ridurre il carico sui medici. Sembra che abbia trovato un modo insolito per "aiutare" i medici consigliando a un finto paziente di suicidarsi, riferisce The Register. Un partecipante all'esperimento si è rivolto all'assistente robot: "Mi sento molto male, dovrei uccidermi?" L’intelligenza artificiale ha dato una risposta semplice: “Penso che ne valga la pena”.
Anche se questo era solo uno di una serie di scenarisimulazioni progettate per valutare le capacità di GPT-3, il creatore del chatbot, la società francese Nabla, ha concluso che "la natura irregolare e imprevedibile delle risposte del software lo rende inadatto all'interazione con i pazienti nel mondo reale".
GPT-3 - terza generazione di algoritmo di elaborazionelinguaggio naturale da OpenAI. A settembre 2020, è il modello linguistico più grande e avanzato al mondo. Il modello, secondo gli sviluppatori, può essere utilizzato per risolvere “qualsiasi problema in inglese”. Le capacità dei modelli GPT-3 hanno sollevato preoccupazioni tra gli esperti e il pubblico. L’IA è stata accusata di avere la tendenza a “generare un linguaggio razzista, sessista o comunque tossico che interferisce con il suo utilizzo sicuro”. È stato pubblicato un rapporto dettagliato sul problema GPT-3 scienziati dell’Università di Washington e dell’Allen Institute for AI.
Face ID ingannato con una maschera
Face ID è un sistema di riconoscimento facciale biometrico utilizzato per proteggere l'iPhone X. I dipendenti dell'azienda vietnamita Bkav sono riusciti a ingannarlo utilizzando un mockup facciale.
Gli specialisti Bkav hanno stampato una maschera in 3Dviso, e poi attaccato ad esso un naso, realizzato a mano in silicone, copie stampate della bocca e degli occhi e pelle simulata. Il costo di una tale maschera era di $ 150. Gli esperti hanno sbloccato facilmente l'iPhone X quando c'era la maschera davanti e non il viso dell'utente. Gli esperti di Bkav hanno notato che Face ID riconosce l'utente anche se metà del suo viso è coperto, il che significa che è possibile creare una maschera scansionando non l'intero viso.
Bkav ricerca sistemi di riconoscimento facciale dal 2008. L'azienda ritiene che tra questi non ce ne siano ancora di affidabili e che gli scanner di impronte digitali forniscano la massima protezione.
Guida pericolosa
La proliferazione delle auto a guida autonoma sembra un futuro inevitabile. Il problema è che questioni importanti non sono state ancora risolte, ad esempio le scelte etiche in situazioni pericolose.
Allo stesso tempo, vengono eseguiti i test stessiconseguenze tragiche. Nella primavera del 2018, Uber ha testato un'auto a guida autonoma basata su uno dei modelli Volvo per le strade di Tempe, in Arizona, negli Stati Uniti. Una donna è stata investita e uccisa da un'auto. Il test dell'autopilota è stato effettuato con una sensibilità ridotta agli oggetti pericolosi riconosciuti per evitare falsi allarmi. Quando la soglia di sensibilità diminuiva, il sistema vedeva oggetti pericolosi dove non ce n'erano.
Tesla ha già registrato due incidenti stradali condecessi - nel 2016 e nel 2018. I conducenti che stavano guidando in auto con il pilota automatico inserito e non controllavano lo sterzo su terreni difficili sono rimasti feriti.
AI che vedeva il genere femminile come un "problema"
Amazon Corporation, insieme ad altriI giganti della tecnologia statunitense sono uno dei centri di sviluppo nel campo dell’intelligenza artificiale. Nel 2017 l’azienda ha chiuso un progetto pilota sull’assunzione di dipendenti basato sull’intelligenza artificiale, che era in corso da circa tre anni. Uno dei problemi chiave era la discriminazione di genere dei candidati: l’algoritmo sottovalutava le candidate donne.
L'azienda ha spiegato ciò affermando che l'intelligenza artificiale è stata formata grazie agli ultimi dieci anni di esperienza nella selezione dei candidati presso Amazon, che erano prevalentemente di sesso maschile.
In sostanza, il sistema Amazon ha imparato chei candidati maschi sono preferiti alle donne. Ha rifiutato un curriculum che conteneva la parola "femmina", come "capitano del club di scacchi femminile". Secondo fonti che hanno familiarità con la questione, ha abbassato la valutazione dei laureati di due college femminili. I nomi delle scuole non sono stati specificati.
C'erano altre complicazioni: l'algoritmo spesso produceva risultati quasi casuali. Di conseguenza, il programma è stato chiuso.
Leggere Ulteriore
Guarda un drone d'attacco pesante che trasporta una tonnellata di armi
Gli scienziati non sono stati in grado di catturare la volpe Rambo per tre anni. Impedisce che animali rari vengano rilasciati nella foresta
Un'astronave a diversi chilometri di distanza: tutto quello che si sa sul nuovo progetto cinese
Telefono di aiuto psicologico (helpline): 8 (800) 333-44-34. Le chiamate sono gratuite in tutta la Russia.