La prolifération de l’IA soulève un certain nombre de problèmes de confidentialité dont les gens ne sont peut-être même pas conscients. Avec un autre
Les risques de secret de l'IA ne se limitent pas àen raison de la collecte massive de données personnelles, mais aussi des modèles de réseaux de neurones profonds eux-mêmes, qui fournissent une grande partie de l'intelligence artificielle d'aujourd'hui. Les données sont vulnérables non seulement aux attaques de bases de données, mais également aux «fuites» dans les modèles sur lesquels elles ont été formées.
Les réseaux de neurones profonds, qui sontL'ensemble d'algorithmes pour identifier les modèles dans les données est composé de nombreuses couches. Ces couches contiennent un grand nombre de nœuds appelés neurones, et les neurones des couches voisines sont interconnectés avec eux. Chaque nœud, ainsi que les liens entre eux, encodent certains bits d'information. Ces bits d'informations sont créés lorsqu'un processus spécial analyse de grandes quantités de données pour entraîner le modèle.
Par exemple, un algorithme de reconnaissance faciale pourrait êtreformé sur une série de selfies afin qu'il puisse prédire plus précisément le sexe d'une personne. Ces modèles sont très précis, mais ils peuvent aussi stocker trop d'informations - en fait, se souvenir de certaines personnes pendant le processus d'apprentissage. Les attaquants peuvent identifier les personnes à partir des données d'entraînement en examinant les réseaux de neurones profonds qui classent le sexe sur un visage représenté.
L'une des méthodes de protection mises au pointexperts en apprentissage automatique, cela ajoutait de l'incertitude au modèle d'IA. Cela a été fait pour empêcher les attaquants de prédire exactement ce que le modèle ferait. Analysera-t-il une séquence spécifique de données? Ou va-t-il lancer un bac à sable? Idéalement, les logiciels malveillants ne connaîtront pas et exposeront involontairement leurs motivations.
Une autre façon d'améliorer la confidentialité de l'IA estexplorer les vulnérabilités des réseaux de neurones profonds. Aucun algorithme n'est parfait et ces modèles sont vulnérables. La raison en est qu’ils sont très sensibles aux petits changements dans les données qu’ils lisent.
Ces vulnérabilités peuvent être utilisées pouraméliorer la confidentialité en ajoutant du « bruit » aux données personnelles. Par exemple, des chercheurs de l’Institut Planck d’informatique en Allemagne ont développé des moyens de convertir les images Flickr en logiciel de reconnaissance faciale. Les changements sont incroyablement subtils, à tel point qu’ils ne peuvent pas être détectés par l’œil humain.
Une autre façon dont l'IA peut aider à atténuerproblèmes de sécurité de l'information - gardez les données confidentielles lors de la création de modèles. Un développement prometteur est celui de l'apprentissage fédéré. C'est ce que Google utilise dans son clavier intelligent Gboard pour prédire le mot à saisir ensuite. L'apprentissage fédéré crée le réseau neuronal profond ultime à partir de données stockées sur de nombreux appareils différents, plutôt que sur un magasin de données central. Son principal avantage est que les données sources ne quittent jamais les appareils locaux. Ainsi, la vie privée est toujours protégée dans une certaine mesure. Oui, ce n'est pas une solution parfaite. Bien que les périphériques locaux effectuent certains calculs, ils ne les terminent pas. Les résultats intermédiaires peuvent révéler certaines informations sur l'appareil et son utilisateur.
L'apprentissage fédéré donne un aperçu deun avenir dans lequel l’IA sera plus respectueuse de la vie privée. La poursuite des recherches pourrait permettre de découvrir davantage de façons dont l’IA devient une partie de la solution plutôt qu’une source de problèmes de confidentialité.
Lisez aussi
Voyez quels organes le coronavirus attaque en premier et comment cela se produit
Qui était le premier organisme sur Terre? Oubliez tout ce que vous saviez sur l'origine de la vie
Voir des photos d'éclipse prises dans le monde entier