Comment tout cela a-t-il commencé?
La plupart des services cloud (Dropbox, Google, Microsoft et bien d'autres) analysent déjà
Apple va déployer un nouveau système appeléNeuralHash, aux États-Unis. Il apparaîtra dans iOS 15 et macOS Monterey, tous deux dont la sortie est prévue dans un mois ou deux. On ne sait pas si et quand le système sera déployé à l'échelle internationale. Jusqu'à récemment, des entreprises telles que Facebook étaient obligées de désactiver leurs outils de détection de maltraitance d'enfants dans toute l'Union européenne.
Comment cela fonctionnera-t-il?
Commençons par le fait qu'aux USA il y aune base de données spéciale d'images, elle est collectée par le NCMEC et d'autres organisations. NCMEC, ou National Center for Missing & Exploited Children, est le National Center for Missing & Exploited Children, une organisation privée à but non lucratif créée en 1984 par le Congrès des États-Unis. Il est à noter qu'Apple ne reçoit pas les images elles-mêmes, mais leurs hachages. Ce sont des chaînes spécialement générées qui seront les mêmes pour les mêmes images et différentes pour les différentes, explique « T-Zh ».
Il est à noter que la particularité des hachages est qu'ilsne vous permet pas de restaurer complètement le fichier d'origine. Cependant, ils permettent de comparer les hachages de deux fichiers entre eux. Dans le même temps, l'algorithme utilisé dans le processus est résistant à la manipulation de photos. Qu'est-ce que ça veut dire? Par exemple, même si vous modifiez les couleurs ou la taille de la photo dans une photo, son hachage sera le même que celui du fichier d'origine.
Indépendamment d'Apple, l'iPhone calcule des hachages similaires pour toutes les photos des utilisateurs. L'algorithme ne prend pas en compte des pixels spécifiques, mais le contenu de l'image.
Pour que l'analyse fonctionne, les appareils Appleles utilisateurs seront téléchargés sur iCloud avec des photos et des bons de sécurité : le hachage de la photo et son dérivé visuel y seront stockés. Dans le même temps, Apple n’explique pas de quel type de dérivé il s’agit. Il s'agit très probablement d'un fragment de l'image ou d'une version traitée de celle-ci, qui sera examinée par un employé de l'entreprise lors des dernières étapes d'analyse.
Les bons de sécurité conserveront égalementfragments d'une clé de cryptage spéciale. En même temps, il est généré sur l'appareil et est inconnu d'Apple depuis le tout début. Cette clé crypte le hachage et le composant visuel de l'instantané. À propos, pour déchiffrer les données, vous devez obtenir plusieurs fragments d'une telle clé.
Forbes note qu'une seule correspondance de hachagede la galerie de l'utilisateur avec le hachage de la base de données d'images avec des scènes de maltraitance d'enfants ne suffit pas pour tirer des conclusions claires. Pour éviter les « faux positifs », Apple fixe un nombre minimum de correspondances nécessaires pour « faire avancer les choses ». Cependant, le nombre de ces correspondances est inconnu.
Si le nombre de matchs est suffisant,et aussi si le hachage est complètement identique (la photographie correspond effectivement à l'image de la base de données, alors le décryptage sera réussi. Si le hachage est différent, alors l'image n'a pas été trouvée dans la base de données NCMEC, et le décryptage du « bon » Cela ne fonctionnera pas : comme Apple l'assure, l'entreprise n'aura pas accès à la photo tant qu'elle n'en aura pas trouvé une similaire dans la base de données, note Mediazona.
Critique du projet
Les professionnels de la cybersécurité de manière prévisibleaccueilli avec indignation l'initiative d'Apple : les nombreuses tentatives de dépersonnalisation de l'analyse des photos n'annulent pas le problème principal, le fait même de l'accès permanent aux fichiers des utilisateurs. Même si les fichiers analysés par l'algorithme sont téléchargés sur le stockage en nuage, en fait, l'utilisateur ne les partage avec personne.
Matthew Green, chercheur en sécurité chezL'Université Johns Hopkins a déclaré à Reuters que le désir d'Apple de créer des systèmes permettant d'analyser les téléphones des utilisateurs d'iPhone à la recherche de "contenus interdits" pourrait "briser le barrage" et conduire le gouvernement américain à "l'exiger de tout le monde". Il a également déclaré à l'Associated Press qu'il était à craindre que d'autres gouvernements internationaux fassent pression sur Apple pour qu'il recherche d'autres informations. Le chercheur a annoncé la nouvelle technologie dans l’un des premiers tweets d’une série.
Peu importe les plans à long termeApple, ils envoient un signal très clair. À leur avis (très influent), il est sûr de créer des systèmes qui analysent les téléphones des utilisateurs à la recherche de contenu interdit. Ils envoient ce signal aux gouvernements, aux services concurrents, à la Chine, à vous personnellement. Qu'ils aient raison ou tort dans cette affaire n'a guère d'importance. Désormais, rien n'est sacré, maintenant les gouvernements [des différents pays] vont exiger la même chose de tout le monde, et quand on se rendra compte que c'était une erreur, il sera trop tard.
Matthew Green, professeur à l'Université Johns Hopkins
Pourquoi est-ce nécessaire ?
L'année dernière, le ministère américain de la Justicea publié un ensemble de « principes volontaires » visant à obliger les entreprises de technologie des médias sociaux à faire davantage pour lutter contre l'exploitation et les abus sexuels sur les enfants. L'agence a exhorté les entreprises à établir un système complet pour identifier et prendre des mesures immédiates contre les contenus illégaux et les signaler aux autorités. Par exemple, Microsoft a déjà créé photoDNA pour aider les entreprises à identifier en ligne les images d’abus sexuels sur des enfants. Facebook et Google disposent déjà de systèmes pour vérifier les contenus potentiellement illégaux. Facebook a également déclaré qu'il travaillait sur de nouveaux outils pour réduire la diffusion d'images d'abus sexuels sur des enfants sur sa plateforme.
Selon un rapport du Conseil national américain surEnfants disparus et exploités Facebook a signalé 20 millions d’images d’abus sexuels sur des enfants aux forces de l’ordre en 2020. Ce nombre comprend les rapports des plateformes Facebook et Instagram. En 2019, il y a eu 16 millions de photographies de ce type.
Lire la suite
Le ralentissement de la rotation de la Terre a provoqué la libération d'oxygène sur la planète
Les astronomes repèrent des structures inhabituelles dans l'espace lointain
Voir plus d'art rupestre néandertalien vieux de 60 000 ans