З чого все почалося?
Більшість хмарних сервісів — Dropbox, Google і Microsoft, і це лише деякі інші — вже сканують
Apple розгорне нову систему під назвою NeuralHash у США в iOS 15 і macOS Monterey, випуск яких заплановано на найближчий місяць-два.До недавнього часу такі компанії, як Facebook, були змушені закрити свої інструменти виявлення жорстокого поводження з дітьми по всьому Європейському Союзу.
Як це буде працювати?
Почнемо з того, що в США існує спеціальна база зображень, яку збирають NCMEC та інші організації.NCMEC або Національний центр зниклих безвісти та експлуатованих дітей – це Національний центр зниклих безвісти та експлуатованих дітей Missing and Exploited Children) — приватна некомерційна організація, заснована в 1984 році Конгресом США.Варто зазначити, що Apple отримує не самі зображення, а їх хеші.Це спеціально згенеровані рядки, які будуть однаковими для одних і тих же зображень і різними для різних, пояснює"Т-Ф".
Варто зазначити, що особливість хеш в тому, вонине дозволяють цілком відновити вихідний файл. Однак вони дають можливість порівняти хеші двох файлів між собою. При цьому, алгоритм, який застосовується в процесі, стійкий до маніпуляцій з фотографіями. Що це означає? Наприклад, навіть якщо на фотографії поміняти кольори або розмір знімка, його хеш буде таким же, як у вихідного файлу.
Аналогічні хеші iPhone незалежно від Apple обчислює для всіх фотографій користувача. Алгоритм враховує не конкретні пікселі, а саме зміст зображення.
Щоб аналіз спрацював, пристрої Apple завантажуватимуть iCloud разом із фотографіями та ваучерами безпеки — вони матимуть При цьому Apple не пояснює, що це за похідна.Швидше за все, це фрагмент зображення або його оброблений варіант, який буде використовуватися на останніх етапах аналізуРозглянемо співробітника компанії.
У ваучерах безпеки також будуть зберігатисяфрагменти спеціального ключа шифрування. При цьому, він генерується на пристрої і з самого початку невідомий Apple. Цим ключем зашифровані хеш і візуальна складова знімка. До речі, щоб розшифрувати дані, необхідно отримати кілька фрагментів такого ключа.
Forbes зазначає, що для однозначних висновків недостатньо лише одного збігу хешу з галереї користувача з хешем із бази зображень зі сценами жорстокого поводження з дітьми.Щоб уникнути «помилкового спрацьовування», Apple встановлює мінімальну кількість збігів, яка необхідна для того, щоб «зрушити справу з мертвої точки».При цьому кількість таких збігів невідома.
Якщо кількість збігів достатня, а також якщо хеш повністю ідентичний ( фото збігається Якщо хеш відрізняється, то розшифровка пройде успішно. картинка не була знайдена в базі NCMEC, і розшифрувати «ваучер» не вийде. Apple, компанія не отримає доступу до фотографії, поки не знайде аналогічну в базі даних, зазначаєМедіазона.
критика проекту
Фахівці з кібербезпеки передбачуванозустріли ініціативу Apple з обуренням: численні спроби обмежити доступ аналіз фото не скасовують головної проблеми - самого факту постійного доступу до призначених для користувача файлів. Навіть якщо файли, які аналізує алгоритм, завантажуються в хмарне сховище, фактично користувач не ділиться ними ні з ким.
Метью Грін, дослідник безпеки вУніверситет Джона Хопкінса, заявив Reuters, що бажання Apple створити системи, що сканують телефони користувачів iPhone на предмет «забороненого контенту», може «зламати дамбу» і призвести до того, що уряд США «вимагатиме цього від усіх». Він також сказав Associated Press, що є побоювання, що на Apple можуть чинити тиск з боку інших міжнародних урядів, щоб вони сканували для отримання іншої інформації. Дослідник повідомив про нову технологію одним з перших у серії твітів.
Незалежно від того, якими є довгострокові планиApple, вони посилають дуже чіткий сигнал. За їх (дуже впливовому) думку, створювати системи, скануючі телефони користувачів на предмет забороненого контенту, безпечно. Такий сигнал вони посилають урядам, конкуруючим сервісам, Китаю, вам особисто. Виявляться вони мають рацію чи ні в цьому питанні, чи важливо. Відтепер нічого святого, тепер уряду [різних країн] вимагатимуть того ж від усіх, а коли ми зрозуміємо, що це була помилка, буде занадто пізно.
Метью Грін, професор Університету Джонса Хопкінса
Навіщо це треба?
Минулого року Міністерство юстиції СШАопублікувало набір «добровільних принципів», мета яких — змусити технологічні компанії, що займаються соціальними мережами, робити більше для боротьби із сексуальною експлуатацією та наругою над дітьми. Відомство закликало компанії створити ретельну систему для виявлення та вжиття негайних заходів проти незаконного контенту та повідомлення про нього владі. Наприклад, Microsoft вже створила photoDNA, щоб допомогти компаніям ідентифікувати зображення сексуального насильства над дітьми в Інтернеті. У Facebook і Google вже є системи для перевірки потенційно незаконного контенту. Також Facebook заявила, що працює над новими інструментами, щоби зменшити поширення зображень сексуального насильства над дітьми на своїй платформі.
Відповідно до звіту Національної ради США щодоЗниклим безвісти і дітям, що експлуатувалися, Facebook повідомив правоохоронним органам у 2020 році про 20 млн зображень зі сценами сексуального насильства над дітьми. До цього числа входять звіти як із платформ Facebook, так і з Instagram. У 2019 році таких фотографій було 16 мільйонів.
Читати далі
Уповільнення обертання Землі викликало викид кисню на планеті
Астрономи помітили в далекому космосі незвичайні структури
Подивіться на наскальні мистецтво неандертальців, яким понад 60 тис. Років