Jak to wszystko się zaczęło?
Większość usług w chmurze — Dropbox, Google, Microsoft i wiele innych — już skanuje
Apple wprowadzi nowy system o nazwieNeuralHash w USA. Pojawi się w iOS 15 i macOS Monterey, a premiera obu planowana jest na najbliższy miesiąc lub dwa. Nie wiadomo, czy i kiedy system zostanie wdrożony na arenie międzynarodowej. Do niedawna firmy takie jak Facebook były zmuszone wyłączać swoje narzędzia do wykrywania wykorzystywania dzieci w całej Unii Europejskiej.
Jak to będzie działać?
Zacznijmy od tego, że w USA tak jestspecjalna baza zdjęć, gromadzona przez NCMEC i inne organizacje. NCMEC, czyli Krajowe Centrum Dzieci Zaginionych i Wykorzystywanych, to Narodowe Centrum Dzieci Zaginionych i Wykorzystywanych, prywatna organizacja non-profit utworzona w 1984 roku przez Kongres Stanów Zjednoczonych. Warto zaznaczyć, że Apple nie otrzymuje samych obrazów, lecz ich skróty. Są to specjalnie wygenerowane ciągi znaków, które będą takie same dla tych samych obrazów i różne dla różnych, wyjaśnia „T-Zh”.
Należy zauważyć, że osobliwością skrótów jest to, żenie pozwalają na całkowite przywrócenie oryginalnego pliku. Umożliwiają jednak porównanie ze sobą skrótów dwóch plików. Jednocześnie algorytm zastosowany w procesie jest odporny na manipulację fotografią. Co to znaczy? Na przykład, nawet jeśli zmienisz kolory lub rozmiar zdjęcia na zdjęciu, jego hash będzie taki sam jak oryginalny plik.
Niezależnie od Apple, iPhone oblicza podobne skróty dla wszystkich zdjęć użytkowników. Algorytm nie bierze pod uwagę konkretnych pikseli, ale zawartość obrazu.
Aby analiza zadziałała, urządzenia Appleużytkownicy zostaną przesłani do iCloud wraz ze zdjęciami i kuponami bezpieczeństwa – będzie w nich przechowywany skrót zdjęcia i jego wizualna pochodna. Jednocześnie Apple nie wyjaśnia, o jaki rodzaj instrumentu pochodnego chodzi. Najprawdopodobniej jest to fragment obrazu lub jego przetworzona wersja, który na końcowym etapie analizy zostanie sprawdzony przez pracownika firmy.
Przechowywane będą również kupony zabezpieczającefragmenty specjalnego klucza szyfrującego. Jednocześnie jest generowany na urządzeniu i od samego początku jest nieznany Apple’owi. Ten klucz szyfruje skrót i składnik wizualny migawki. Przy okazji, aby odszyfrować dane, musisz zdobyć kilka fragmentów takiego klucza.
Forbes zauważa, że tylko jeden hash pasujez galerii użytkownika wraz z hashem z bazy obrazów przedstawiających sceny przemocy wobec dzieci nie wystarczy, aby wyciągnąć jednoznaczne wnioski. Aby uniknąć „fałszywie pozytywnych wyników”, Apple ustala minimalną liczbę dopasowań wymaganą do „rozpoczęcia działania”. Nie jest jednak znana liczba takich meczów.
Jeśli liczba dopasowań jest wystarczająca,a także jeśli hash jest całkowicie identyczny (zdjęcie rzeczywiście odpowiada obrazowi z bazy, to odszyfrowanie zakończy się sukcesem. Jeśli hash jest inny, to zdjęcie nie zostało odnalezione w bazie NCMEC i odszyfrowanie „vouchera” nie zadziała, czyli – jak zapewnia Apple – firma nie uzyska dostępu do zdjęcia, dopóki nie znajdzie podobnego w bazie – zauważa Mediazona.
Krytyka projektu
Specjaliści ds. cyberbezpieczeństwa w przewidywalny sposóbpowitał inicjatywę Apple z oburzeniem: liczne próby depersonalizacji analizy zdjęć nie usuwają głównego problemu - samego faktu stałego dostępu do plików użytkownika. Nawet jeśli pliki, które analizuje algorytm, trafiają do magazynu w chmurze, w rzeczywistości użytkownik nie udostępnia ich nikomu.
Matthew Green, badacz bezpieczeństwa w firmieJohns Hopkins University powiedział agencji Reuters, że chęć Apple stworzenia systemów skanujących telefony użytkowników iPhone'ów w poszukiwaniu „zabronionych treści” może „przełamać tamę” i sprawić, że rząd USA będzie „wymagał tego od wszystkich”. Powiedział także agencji Associated Press, że istnieją obawy, że inne rządy międzynarodowe mogą wywierać presję na Apple, aby wyszukał inne informacje. Badacz ogłosił nową technologię w jednym z pierwszych z serii tweetów.
Bez względu na długoterminowe planyApple, wysyłają bardzo wyraźny sygnał. W ich (bardzo wpływowej) opinii bezpieczne jest tworzenie systemów skanujących telefony użytkowników w poszukiwaniu zabronionych treści. Wysyłają ten sygnał do rządów, konkurencyjnych służb, Chin, do ciebie osobiście. Nie ma większego znaczenia, czy mają rację, czy nie. Od teraz nic nie jest święte, teraz rządy [różnych krajów] będą wymagać tego samego od wszystkich, a gdy zdamy sobie sprawę, że to był błąd, będzie za późno.
Matthew Greena, profesora na Uniwersytecie Johna Hopkinsa
Dlaczego jest to konieczne?
W zeszłym roku Departament Sprawiedliwości USAopublikowała zestaw „dobrowolnych zasad”, których celem jest zmuszenie firm zajmujących się technologią mediów społecznościowych do podjęcia dalszych działań w celu zwalczania wykorzystywania i niegodziwego traktowania dzieci w celach seksualnych. Agencja nalegała, aby przedsiębiorstwa stworzyły kompleksowy system identyfikowania nielegalnych treści i podejmowania natychmiastowych działań oraz zgłaszania ich władzom. Na przykład firma Microsoft stworzyła już fotoDNA, aby pomóc firmom identyfikować w Internecie obrazy przedstawiające wykorzystywanie seksualne dzieci. Facebook i Google mają już systemy sprawdzające potencjalnie nielegalne treści. Facebook poinformował również, że pracuje nad nowymi narzędziami, które pozwolą ograniczyć rozprzestrzenianie się na swojej platformie obrazów przedstawiających wykorzystywanie seksualne dzieci.
Jak wynika z raportu Rady Narodowej USA dsW 2020 r. Facebook zgłosił organom ścigania 20 milionów zdjęć przedstawiających wykorzystywanie seksualne dzieci. Obejmuje to raporty z platform Facebook i Instagram. W 2019 roku takich zdjęć było 16 milionów.
Czytaj więcej
Spowolnienie obrotu Ziemi spowodowało uwolnienie tlenu na planecie
Astronomowie dostrzegają niezwykłe struktury w kosmosie
Zobacz więcej 60 000-letniej sztuki naskalnej neandertalskiej