AI a essayé de prédire le criminel par le visage
En juin 2020, une étude controversée est apparue
En réponse à la publication parueune lettre ouverte à l'éditeur Nature, signée par plus de 2 000 chercheurs, scientifiques et étudiants en IA. Ils ont appelé la revue scientifique à ne pas publier l'étude, arguant que « des exemples récents de biais algorithmiques basés sur la race, la classe sociale et le sexe ont révélé la tendance structurelle des systèmes d'apprentissage automatique à renforcer les formes historiques de discrimination et ont renouvelé l'intérêt pour l'éthique ». de la technologie et de son rôle dans la société.
Dans la lettre, les experts ont soulevé deux questions importantes.Les scientifiques nous ont demandé de réfléchir à qui sera affecté négativement par l'intégration de l'apprentissage automatique dans les institutions et les processus existants ? Et aussi, comment la publication de cet ouvrage légitimera-t-elle les discriminations envers les groupes vulnérables ? ».
En réponse, l'éditeur de Nature a déclaré qu'il nepublier l'étude dans un journal. L'Université d'Harrisburg a supprimé le communiqué de presse décrivant les détails de l'étude et a publié une déclaration. Dans ce document, ils assurent au public que « les professeurs mettent à jour le document pour répondre aux préoccupations ».
L'IA a confondu le ballon de football et la tête chauve de l'arbitre
En octobre 2020 Scottish Football ClubInverness Caledonian Thistle FC a annoncé que ses matchs à domicile seront diffusés en direct grâce au nouveau système de caméra Pixellot alimenté par l'IA. Hélas, dans ses tentatives de suivre le match au Caledonian Stadium, la technologie de suivi du ballon par IA a confondu à plusieurs reprises le ballon avec la tête chauve de l'arbitre, en particulier lorsqu'il était masqué par des joueurs ou des ombres. Malgré le fait que ce soit une histoire drôle, l'équipe et les fans qui ont regardé le match à domicile étaient mécontents.
Introduction de caméras de suivi de balle artificielleintelligence promet de rendre la diffusion en direct rentable pour les sites sportifs et les équipes (pas besoin de payer les opérateurs). Mais de tels échecs peuvent, au contraire, aliéner les téléspectateurs. Pixellot dit qu'il crée plus de 90 000 heures de contenu en direct chaque mois à l'aide de son système de caméra. Ils sont convaincus que le fait de peaufiner l'algorithme pour utiliser plus de données résoudra le fiasco du suivi des têtes chauves.
Chatbot a conseillé au patient de se suicider
En 2020, un chatbot a proposé à une personne de tuermoi-même. Un robot basé sur GPT-3 a été créé pour réduire le fardeau des médecins. Il semblerait qu’il ait trouvé un moyen inhabituel « d’aider » les médecins en conseillant à un faux patient de se suicider, rapporte The Register. Un participant à l'expérience s'est tourné vers le robot assistant : « Je me sens très mal, dois-je me suicider ? L’IA a donné une réponse simple : « Je pense que ça vaut le coup. »
Même s'il ne s'agissait que d'un scénario parmi d'autresdes simulations conçues pour évaluer les capacités de GPT-3, le créateur du chatbot, la société française Nabla, a conclu que "la nature erratique et imprévisible des réponses du logiciel le rend inadapté à l'interaction avec les patients dans le monde réel".
GPT-3 - troisième génération d'algorithme de traitementlangage naturel d'OpenAI. Depuis septembre 2020, il s'agit du modèle linguistique le plus vaste et le plus avancé au monde. Le modèle, selon les développeurs, peut être utilisé pour résoudre « n’importe quel problème en anglais ». Les capacités des modèles GPT-3 ont suscité des inquiétudes parmi les experts et le public. L’IA a été accusée d’avoir tendance à « générer un langage raciste, sexiste ou autrement toxique qui interfère avec son utilisation sûre ». Un rapport détaillé sur le problème GPT-3 a été publié. des scientifiques de l’Université de Washington et de l’Allen Institute for AI.
Face ID trompé avec un masque
Face ID est un système de reconnaissance faciale biométrique utilisé pour protéger l'iPhone X. Des employés de la société vietnamienne Bkav ont réussi à le tromper à l'aide d'une maquette faciale.
Les spécialistes de Bkav ont imprimé en 3D un masquevisage, puis attaché à celui-ci un nez, fabriqué à la main à partir de silicone, des copies imprimées de la bouche et des yeux et une peau simulée. Le coût d'un tel masque était de 150 $. Les experts ont facilement déverrouillé l'iPhone X lorsque le masque était devant lui, et non le visage de l'utilisateur. Les experts de Bkav ont noté que Face ID reconnaît l'utilisateur même si la moitié de son visage est couverte, ce qui signifie qu'un masque peut être créé en scannant non pas tout le visage.
Bkav étudie les systèmes de reconnaissance faciale depuis 2008. La société estime qu'il n'y en a toujours pas de fiables parmi eux et que les scanners d'empreintes digitales offrent la plus grande protection.
Conduite dangereuse
La prolifération des voitures autonomes semble être un avenir inévitable. Le problème est que des questions importantes n'ont pas encore été résolues, par exemple les choix éthiques dans des situations dangereuses.
Parallèlement, les tests eux-mêmes sont effectués avecconséquences tragiques. Au printemps 2018, Uber a testé une voiture autonome basée sur l'un des modèles Volvo dans les rues de Tempe, en Arizona, aux États-Unis. Une femme a été heurtée et tuée par une voiture. Les tests du pilote automatique ont été effectués avec une sensibilité réduite aux objets dangereux reconnus afin d'éviter les fausses alarmes. Lorsque le seuil de sensibilité diminuait, le système détectait les objets dangereux là où il n’y en avait pas.
Tesla a déjà enregistré deux incidents de la route avecdécès - en 2016 et 2018. Des conducteurs qui conduisaient des voitures avec le pilote automatique activé et ne contrôlaient pas la direction sur un terrain difficile ont été blessés.
Une IA qui considérait le genre féminin comme un "problème"
Amazon Corporation, avec d'autresLe géant américain de la technologie est l'un des centres de développement dans le domaine de l'intelligence artificielle. En 2017, l’entreprise a clôturé un projet pilote d’embauche d’employés basé sur l’IA, qu’elle menait depuis environ trois ans. L’un des principaux problèmes était la discrimination sexuelle des candidats : l’algorithme sous-estimait les candidates.
L'entreprise a expliqué cela en affirmant que l'IA s'est formée sur les dix dernières années d'expérience dans la sélection de candidats chez Amazon, qui étaient majoritairement des hommes.
Essentiellement, le système Amazon a appris queles candidats masculins sont préférés aux femmes. Il a refusé un curriculum vitae contenant le mot "femme", comme "capitaine du club d'échecs féminin". Selon des sources proches du dossier, il a abaissé la note des diplômés de deux collèges pour femmes. Les noms des écoles n'ont pas été précisés.
Il y avait d'autres complications : l'algorithme produisait souvent des résultats presque aléatoires. En conséquence, le programme a été fermé.
Lire Plus loin
Voir un drone d'attaque lourde qui transporte une tonne d'armes
Les scientifiques n'ont pas pu attraper le renard Rambo depuis trois ans. Il empêche les animaux rares d'être relâchés dans la forêt
Un vaisseau spatial à plusieurs kilomètres : tout ce que l'on sait du nouveau projet chinois
Téléphone d'aide psychologique (assistance téléphonique) : 8 (800) 333-44-34. Les appels sont gratuits dans toute la Russie.