La numérisation ne peut pas être arrêtée
La numérisation des villes ne fait que prendre de l’ampleur. Personne n'est plus surpris
C'est très pratique:pour monter dans le métro, il vous suffit de regarder l'appareil photo, vous n'avez pas besoin de sortir votre portefeuille, votre smartphone ou votre carte bancaire. Mais les sceptiques des nouvelles technologies inquiètent. Ils estiment qu'il est très dangereux de confier la vérification et l'analyse des données biométriques à l'intelligence artificielle et à un fournisseur tiers. On ne sait pas entre les mains de qui ils finiront et comment ils peuvent être utilisés contre le propriétaire lui-même, tout à coup quelqu'un contracte un prêt sous le couvert d'une autre personne ou commet un crime en utilisant des données biométriques. Les écrivains vont encore plus loin et mettent en garde contre des problèmes encore plus importants : que se passe-t-il si l'IA se lève et commence à chasser les gens, en les traquant sur la rétine scannée dans le métro ? Mais les experts notent que la menace de l'intelligence artificielle dans la conscience de masse est grandement exagérée.
Émeute de machine impossible
"Intelligence" dans le terme IA - marketingexagération. Il n'y a toujours pas de critères mathématiquement clairs pour ce qui est considéré comme de l'intelligence, mais la plupart des biologistes et des philosophes s'accordent à dire que l'intelligence est la capacité de résoudre avec succès des problèmes non triviaux. À un niveau supérieur, vous pouvez définir indépendamment des tâches que vous n'avez jamais rencontrées auparavant et les résoudre. Aucun système informatique dans un avenir prévisible ne pourra le faire. Personne ne s'est jamais fixé pour objectif de créer l'IA dite forte (Strong AI), car l'effet économique potentiel d'un tel développement est inférieur aux fonds nécessaires pour cela.
Déjà aujourd'hui, l'IA est capable de reconnaître les visages, à la recherche de traits caractéristiques
Aujourd'hui, l'IA est de facto comprise comme différentemise en œuvre de systèmes d'apprentissage automatique. Ils sont capables de trouver des modèles entre les données et de reconnaître des modèles. Par exemple, un enfant de trois ans distingue avec confiance un chat d'un chien sur une photo. Le réseau de neurones atteindra le même objectif lorsqu'il sera "alimenté" de plusieurs dizaines de milliers d'images, dont certaines seront correctement signées "chat", et d'autres "chien". Déjà aujourd'hui, l'IA peut reconnaître les visages en recherchant des traits caractéristiques, et elle le fait avec une précision de 96 à 98 % - de tels résultats peuvent être obtenus même si les gens portent des masques médicaux standard.
Confiance, mais à qui ?
Que se passe-t-il après la voitureidentifie une personne? Cela dépend de ceux qui ont programmé le système et assigné des tâches à des informaticiens. Vous pouvez utiliser la liaison de la personne identifiée à la base de données et ouvrir le tourniquet du métro devant lui, en déduisant le montant du passage de son compte. Vous pouvez corréler sa biométrie avec une autre base - et, après avoir posé la question "Voulez-vous vraiment contracter ce prêt ?" d'une voix synthétisée, attendez la réponse "Oui" et transférez le montant convenu sur son compte. Dans tous les cas, les décisions suite à la reconnaissance faciale ne sont pas prises par l'IA seule, elles dépendent d'algorithmes mis en œuvre par des programmeurs vivants.
Le système chinois de « socialcredit » n'est qu'une énorme base de données (plus précisément, plusieurs bases de données dispersées), où chaque citoyen, entreprise ou institution étatique inscrit reçoit un score conditionnel. Le "bon" comportement s'exprime dans la croissance de ce score, le "mauvais" - dans son déclin.
Un tel système peut fonctionner automatiquement :il reconnaît le visage d'une personne dans le flux et lui permet ou lui interdit immédiatement d'effectuer certaines actions : par exemple, demander un prêt, acheter un billet d'avion. Mais les règles mêmes selon lesquelles la machine prend telle ou telle décision sont déterminées par les personnes. Des systèmes similaires à plus petite échelle fonctionnent dans de nombreuses entreprises, pas nécessairement chinoises, et leurs réactions à la même action diffèrent souvent considérablement en raison des différentes approches des développeurs.
La biométrie basée sur l'IA en elle-même n'est pas bonne etpas mal. Techniquement, il n'y a pas de différence entre les catalogues à grande échelle de l'ère pré-informatique (en 1944, le fichier du FBI contenait 23 millions de cartes) et les bases de données biométriques d'aujourd'hui. Un ordinateur trouve les informations nécessaires incomparablement plus rapidement qu'une personne - c'est pourquoi la reconnaissance faciale instantanée dans une foule choque la personne moyenne. Mais ce n'est qu'un effet psychologique, et les conséquences réelles des actions du système numérique sont déterminées par la manière dont les personnes qui y ont accès traiteront les données reçues par celui-ci.
Cependant, il n'y a aucune raison de craindre le totalsubstitution d'une personne vivante par son "jumeau numérique" - le même enregistrement dans une base de données informatique. C'est une chose quand quelqu'un avec un faible niveau de crédit social essaime au fond du magasin : l'algorithme de surveillance du comportement des personnes sur le parquet, ayant reçu un signal d'une caméra vidéo avec reconnaissance d'image, correspondra au visiteur face à la base de police - et recommande aux gardes d'approcher la personne suspecte. Mais c'est tout autre chose quand le crédit social d'une personne est soudainement remis à zéro : soit à cause d'une erreur informatique, soit à cause d'actions malveillantes de quelqu'un.
Les technologies d'intelligence artificielle vont continuer à se développer : les tentatives d'arrêter le progrès n'ont aucun sens
Les développeurs du monde entier veulent créer unet une IA vérifiable, dont les « états d'esprit » logiques sont explicitement enregistrés dans le processus de prise de décision et sont disponibles pour vérification par un opérateur humain. La société a commencé à former des critères uniformes pour les actions éthiques de l'intelligence artificielle : on peut citer le code d'éthique russe de l'IA ou un projet de loi de l'Union européenne dans un esprit similaire. Ils réduiront la probabilité d'erreurs ou d'intentions malveillantes lors de la manipulation de "jumeaux numériques".
Les technologies de l'intelligence artificielle vont continuerdévelopper : les tentatives d'arrêter le progrès n'ont aucun sens. La société devrait seulement veiller à ce que les outils numériques pratiques et utiles soient utilisés à bon escient et deviennent un moyen non pas de contrôle algorithmique total, mais d'augmentation du confort et de la sécurité.
Lire la suite
Le "cinquième élément" existe : une nouvelle expérience confirmera que l'information est matérielle
Sons effrayants et créatures mystérieuses : les découvertes les plus étranges dans la fosse des Mariannes
Regardez la meilleure image du Soleil : elle est constituée de 83 millions de pixels