Comment tout cela a-t-il commencé?
Un nouveau rapport de l'ONU a été publié en septembre 2021. Les experts ont étudié comment les pays et les entreprises
Hier, le chef des droits de l'homme de l'ONU, MichelBachelet, a appelé à un moratoire sur l'utilisation des technologies d'intelligence artificielle qui constituent une grave menace pour les droits de l'homme. Y compris des systèmes de numérisation de personnes traquant les personnes dans les lieux publics. Elle a noté que les pays devraient immédiatement interdire les applications d'IA qui ne respectent pas le droit international des droits de l'homme.
Où l'utilisation de l'IA est-elle inacceptable ?
Applications à bannirIl s'agit notamment des systèmes gouvernementaux de « cote sociale » qui évaluent les personnes en fonction de leur comportement, et certains outils basés sur l'IA qui divisent les personnes en groupes, tels que l'origine ethnique ou le sexe.
Technologies basées sur l'artificielLes renseignements « peuvent être une force bénéfique » et peuvent également avoir des « conséquences négatives, voire catastrophiques », s’ils sont utilisés sans tenir compte de leur impact sur les droits de l’homme, a déclaré Bachelet dans un communiqué.
« Il ne s’agit pas du manque derenseignement », a expliqué aux journalistes Peggy Hicks, directrice de l’interaction thématique au Centre des droits de l’homme de l’ONU. Elle s'est adressée aux médias lors de la présentation du rapport à Genève. « Le fait est que si l’IA doit être utilisée dans ces domaines fonctionnels très importants liés aux droits de l’homme, alors cela doit être fait correctement. Et nous n’avons tout simplement pas créé la structure qui garantit cela.
Bachelet n'a pas appelé à une interdiction totaletechnologie de reconnaissance faciale, mais a souligné que les gouvernements devraient cesser d'analyser le comportement des gens en temps réel. Par exemple, pour évaluer les performances du personnel. Vous devez vous assurer que la technologie est précise et que l’IA est impartiale et répond aux normes de confidentialité et de protection des données.
Le rapport a également soulevé des inquiétudes concernantinstruments qui tentent de déterminer l'état émotionnel et mental des personnes en analysant leurs expressions faciales ou leurs mouvements corporels. Les experts soulignent que ces technologies sont sujettes à des préjugés, à des interprétations erronées et à un manque de fondement scientifique.
« L'utilisation de systèmes par les autorités de l'ÉtatReconnaître les émotions, par exemple pour mettre en évidence des individus pour détention ou arrestation par la police, ou pour évaluer la véracité des déclarations lors des interrogatoires, risque de porter atteinte aux droits humains tels que la vie privée, la liberté et l'équité de la justice », indique le rapport.
Où est le problème de l'utilisation de l'IA particulièrement aigu ?
Bien que les noms de pays spécifiques dans le rapportne sont pas mentionnés, il convient de mentionner la Chine. Rappelons qu'en mai les autorités ont lancé un programme visant à tester des caméras de reconnaissance d'émotions sur des Ouïghours dans la région occidentale du Xinjiang. Et la reconnaissance des Ouïghours eux-mêmes. Rappelons qu'en 2018, Human Rights Watch avait publié un rapport sur la persécution de la population musulmane de la région chinoise du Xinjiang. Selon l'organisation, ces dernières années, des Ouïghours y ont été détenus en masse et souvent sans raison, les plaçant dans des prisons et des camps éducatifs ; Des millions de personnes sont sous surveillance vidéo constante, et leur statut social et leur sort dépendent des points accumulés dans le système de « crédit social ».
Cependant, les principaux auteurs du rapport ont déclaré que nommer des pays spécifiques ne relevait pas de leur autorité et pourrait même être contre-productif.
« Dans le contexte chinois, commentet dans d’autres contextes, nous sommes préoccupés par la transparence et les applications discriminatoires qui ciblent des communautés spécifiques », explique la porte-parole de l’ONU, Peggy Hicks.
Elle a cité plusieurs affaires judiciaires aux États-Unis et en Australie où l'intelligence artificielle a été utilisée à mauvais escient.
L'un des précédents les plus bruyants aux États-Unis -situation avec Amazon. Cette société est l'un des centres de développement dans le domaine de l'intelligence artificielle. En 2017, la société a clôturé un projet pilote de recrutement basé sur l'IA qu'elle menait depuis près de trois ans. L'un des problèmes clés était la discrimination sexuelle des candidats - l'algorithme a sous-estimé les évaluations des candidates.
Pendant ce temps, en Australie, le tribunal a créé uneprécédent. Les systèmes d'intelligence artificielle peuvent désormais être légalement reconnus comme inventeurs dans les demandes de brevet. Cependant, tout le monde n'était pas d'accord avec cette décision.
Quelle est la ligne du bas?
Les recommandations du rapport reflètent les points de vue de nombreuxdirigeants politiques des démocraties occidentales. Il est important non seulement d'exploiter le potentiel économique et social de l'IA, mais également de répondre aux préoccupations croissantes concernant la fiabilité des outils de suivi et de profilage des personnes.
La secrétaire américaine au Commerce Gina Raimondo pendantune conférence virtuelle en juin a renforcé les inquiétudes des responsables de l'ONU. "C'est effrayant de penser à la façon dont il peut être utilisé pour renforcer davantage les tendances discriminatoires", a-t-elle déclaré. "Nous devons nous assurer que nous ne permettons pas cela."
Ainsi, les régulateurs européens sont déjàont pris des mesures pour freiner les applications d'IA les plus risquées. Les règles proposées, énoncées par les responsables de l'Union européenne cette année, interdisent certaines utilisations de l'IA, telles que le balayage facial en temps réel, et contrôlent étroitement d'autres utilisations qui pourraient menacer la sécurité humaine ou les droits de l'homme.
Lire Plus loin
Un bateau unique se transforme en sous-marin en deux minutes et est invisible pour l'ennemi
Des physiciens ont refroidi des atomes à la température la plus basse du monde
Le modèle le plus détaillé de l'Univers a été publié en ligne. Tout le monde peut l'étudier