Как започна всичко?
Повечето облачни услуги – Dropbox, Google и Microsoft и много други – вече сканират
Apple ще пусне нова система, нареченаNeuralHash, в САЩ. Той ще се появи в iOS 15 и macOS Monterey, като и двете са планирани за пускане през следващите месец или два. Дали и кога системата ще бъде въведена в международен мащаб, не е известно. Доскоро компании като Facebook бяха принудени да деактивират своите инструменти за откриване на насилие над деца в целия Европейски съюз.
Как ще работи?
Да започнем с факта, че в САЩ имаспециална база данни с изображения, тя се събира от NCMEC и други организации. NCMEC, или Национален център за изчезнали и експлоатирани деца, е Националният център за изчезнали и експлоатирани деца, частна организация с нестопанска цел, създадена през 1984 г. от Конгреса на Съединените щати. Заслужава да се отбележи, че Apple не получава самите изображения, а техните хешове. Това са специално генерирани низове, които ще бъдат еднакви за едни и същи изображения и различни за различни, обясняват от „Т-Ж“.
Трябва да се отбележи, че особеността на хешовете е, че тене ви позволяват да възстановите напълно оригиналния файл. Те обаче дават възможност да се сравняват хешовете на два файла помежду си. В същото време алгоритъмът, използван в процеса, е устойчив на манипулиране на снимки. Какво означава? Например, дори ако промените цветовете или размера на снимката в снимката, нейният хеш ще бъде същият като оригиналния файл.
Независимо от Apple, iPhone изчислява подобни хешове за всички потребителски снимки. Алгоритъмът не взема предвид конкретни пиксели, а съдържанието на изображението.
За да работи анализът, устройствата на Appleпотребителите ще бъдат качени в iCloud заедно със снимки и ваучери за сигурност - хешът на снимката и нейната визуална производна ще бъдат съхранени в тях. В същото време Apple не обяснява какъв вид производно е това. Най-вероятно това е фрагмент от изображението или негова обработена версия, която ще бъде прегледана от служител на компанията по време на последните етапи на анализ.
Ще се съхраняват и ваучери за сигурностфрагменти от специален ключ за криптиране. В същото време той се генерира на устройството и е непознат за Apple от самото начало. Този ключ криптира хеш и визуалния компонент на моментната снимка. Между другото, за да декриптирате данните, трябва да получите няколко фрагмента от такъв ключ.
Forbes отбелязва, че само един хеш съвпадаот галерията на потребителя с хеша от базата данни с изображения със сцени на насилие над деца не е достатъчно, за да се направят ясни заключения. За да избегне „фалшиви положителни резултати“, Apple задава минимален брой съвпадения, които са необходими, за да „задвижат нещата“. Броят на тези мачове обаче не е известен.
Ако броят на съвпаденията е достатъчен,а също и ако хешът е напълно идентичен (снимката действително съвпада с изображението от базата данни, тогава декриптирането ще бъде успешно. Ако хешът е различен, тогава снимката не е намерена в базата данни на NCMEC и дешифрирането на „ваучера“ няма да работи.Тоест, както уверяват от Apple, компанията няма да получи достъп до снимката, докато не намери подобна в базата данни, отбелязва Медиазона.
Критика на проекта
Специалисти по киберсигурност предсказуемоприветства инициативата на Apple с възмущение: многобройните опити за обезличаване на фотоанализа не отменят основния проблем - самия факт на постоянен достъп до потребителски файлове. Дори ако файловете, които алгоритъмът анализира, са качени в облачното хранилище, всъщност потребителят не ги споделя с никого.
Матю Грийн, изследовател по сигурността вУниверситетът Джон Хопкинс каза пред Ройтерс, че желанието на Apple да създаде системи, които сканират телефоните на потребителите на iPhone за „забранено съдържание“, може да „счупи бента“ и да доведе до правителството на САЩ „да го изисква от всички“. Той каза също пред Associated Press, че има опасения, че Apple може да бъде притисната от други международни правителства да сканира за друга информация. Изследователят обяви новата технология в един от първите в поредица от туитове.
Без значение какви са дългосрочните плановеApple, те изпращат много ясен сигнал. Според тяхното (много влиятелно) мнение е безопасно да се създадат системи, които да сканират телефоните на потребителите за забранено съдържание. Те изпращат този сигнал до правителствата, конкурентните служби, Китай, до вас лично. Дали са прави или грешат по този въпрос едва ли е важно. Отсега нататък нищо не е свято, сега правителствата [на различни държави] ще изискват едно и също от всички и когато осъзнаем, че това е грешка, ще бъде твърде късно.
Матю Грийн, професор в университета Джон Хопкинс
Защо това е необходимо?
Миналата година Министерството на правосъдието на САЩпубликува набор от „доброволни принципи“, целящи да принудят технологичните компании за социални медии да направят повече за борба със сексуалната експлоатация и злоупотребата с деца. Агенцията призова компаниите да създадат цялостна система за идентифициране и предприемане на незабавни действия срещу незаконното съдържание и да го докладват на властите. Например, Microsoft вече създаде фотоДНК, за да помогне на компаниите да идентифицират изображения на сексуално малтретиране на деца онлайн. Facebook и Google вече разполагат със системи за проверка на потенциално незаконно съдържание. Facebook също така каза, че работи върху нови инструменти за намаляване на разпространението на изображения на сексуално малтретиране на деца в своята платформа.
Според доклад на Националния съвет на САЩ заИзчезнали и експлоатирани деца Фейсбук съобщи на правоприлагащите органи за 20 милиона изображения на сексуално насилие над деца през 2020 г. Това число включва доклади както от платформите Facebook, така и от Instagram. През 2019 г. имаше 16 милиона такива снимки.
Прочетете още
Забавянето на въртенето на Земята предизвика отделянето на кислород на планетата
Астрономите забелязват необичайни структури в дълбокия космос
Вижте още 60 000-годишно неандерталско скално изкуство