Hoe is het allemaal begonnen?
De meeste cloudservices (Dropbox, Google en Microsoft en vele anderen) scannen al
Apple gaat een nieuw systeem uitrollen genaamdNeuralHash, in de VS. Het verschijnt in iOS 15 en macOS Monterey, beide gepland voor release in de komende twee maanden. Of en wanneer het systeem internationaal zal worden uitgerold, is onbekend. Tot voor kort waren bedrijven zoals Facebook gedwongen hun detectietools voor kindermisbruik in de hele Europese Unie uit te schakelen.
Hoe werkt het?
Laten we beginnen met het feit dat dat in de VS wel het geval iseen speciale database met afbeeldingen, verzameld door NCMEC en andere organisaties. NCMEC, of National Center for Missing & Exploited Children, is het National Center for Missing & Exploited Children, een particuliere non-profitorganisatie die in 1984 door het Amerikaanse Congres werd opgericht. Het is vermeldenswaard dat Apple niet de afbeeldingen zelf ontvangt, maar hun hashes. Dit zijn speciaal gegenereerde strings die hetzelfde zijn voor dezelfde afbeeldingen en verschillend voor verschillende afbeeldingen, legt “T-Zh” uit.
Opgemerkt moet worden dat de eigenaardigheid van hashes is dat zeniet toestaan dat u het originele bestand volledig herstelt. Ze maken het echter mogelijk om de hashes van twee bestanden met elkaar te vergelijken. Tegelijkertijd is het gebruikte algoritme bestand tegen fotomanipulatie. Wat betekent het? Zelfs als u bijvoorbeeld de kleuren of het formaat van de foto op de foto wijzigt, is de hash hetzelfde als het originele bestand.
Ongeacht Apple berekent de iPhone vergelijkbare hashes voor alle gebruikersfoto's. Het algoritme houdt geen rekening met specifieke pixels, maar met de inhoud van de afbeelding.
Om de analyse te laten werken, Apple-apparatengebruikers worden samen met foto's en beveiligingsvouchers naar iCloud geüpload. De hash van de foto en de visuele afgeleide daarvan worden daarin opgeslagen. Tegelijkertijd legt Apple niet uit wat voor soort derivaat het is. Hoogstwaarschijnlijk is dit een fragment van de afbeelding of een verwerkte versie ervan, die tijdens de laatste analysefase door een medewerker van het bedrijf zal worden beoordeeld.
Beveiligingsvouchers worden ook opgeslagenfragmenten van een speciale coderingssleutel. Tegelijkertijd wordt het op het apparaat gegenereerd en is het vanaf het begin onbekend bij Apple. Deze sleutel versleutelt de hash en de visuele component van de snapshot. Trouwens, om de gegevens te decoderen, moet je verschillende fragmenten van zo'n sleutel krijgen.
Forbes merkt op dat slechts één hash overeenkomtuit de galerij van de gebruiker met de hash uit de database met afbeeldingen met scènes van kindermisbruik is niet voldoende om duidelijke conclusies te trekken. Om ‘false positives’ te voorkomen, stelt Apple een minimumaantal overeenkomsten in dat nodig is om ‘dingen op gang te krijgen’. Het aantal van dergelijke wedstrijden is echter onbekend.
Als het aantal wedstrijden voldoende is,en ook als de hash volledig identiek is (de foto komt daadwerkelijk overeen met de afbeelding uit de database, dan zal de decodering succesvol zijn. Als de hash anders is, is de afbeelding niet gevonden in de NCMEC-database en is de decodering van de “voucher” Dat wil zeggen, zoals Apple verzekert, het bedrijf krijgt geen toegang tot de foto totdat het een soortgelijke foto in de database vindt, merkt Mediazona op.
Kritiek op het project
Cybersecurity-professionals voorspelbaarbegroette Apple's initiatief met verontwaardiging: talloze pogingen om foto-analyse te depersonaliseren lossen het belangrijkste probleem niet op - het feit van constante toegang tot gebruikersbestanden. Zelfs als de bestanden die het algoritme analyseert, worden geüpload naar de cloudopslag, deelt de gebruiker ze in feite met niemand.
Matthew Green, beveiligingsonderzoeker bijJohns Hopkins University vertelde Reuters dat Apple's wens om systemen te creëren die de telefoons van iPhone-gebruikers scannen op 'verboden inhoud' 'de dam zou kunnen doorbreken' en ertoe zou kunnen leiden dat de Amerikaanse overheid 'dit van iedereen eist'. Hij vertelde The Associated Press ook dat er zorgen bestaan dat Apple door andere internationale overheden onder druk zou kunnen worden gezet om naar andere informatie te zoeken. De onderzoeker maakte de nieuwe technologie bekend in een van de eerste in een reeks tweets.
Wat de plannen op lange termijn ook zijnApple, ze geven een heel duidelijk signaal af. Naar hun (zeer invloedrijke) mening is het veilig om systemen te maken die de telefoons van gebruikers scannen op verboden inhoud. Ze sturen dit signaal naar overheden, concurrerende diensten, China, naar jou persoonlijk. Of ze in deze kwestie gelijk hebben of niet, is nauwelijks van belang. Van nu af aan is niets heilig, nu zullen de regeringen [van verschillende landen] hetzelfde van iedereen eisen, en wanneer we ons realiseren dat het een vergissing was, zal het te laat zijn.
Matthew Green, professor aan de Johns Hopkins Universiteit
Waarom is dit nodig?
Vorig jaar heeft het Amerikaanse ministerie van Justitieheeft een reeks ‘vrijwillige principes’ gepubliceerd die bedrijven op het gebied van sociale mediatechnologie moeten dwingen meer te doen om seksuele uitbuiting en misbruik van kinderen te bestrijden. Het bureau drong er bij bedrijven op aan een grondig systeem op te zetten om illegale inhoud te identificeren, onmiddellijk actie te ondernemen en deze aan de autoriteiten te melden. Microsoft heeft bijvoorbeeld al photoDNA gemaakt om bedrijven te helpen afbeeldingen van seksueel misbruik van kinderen online te identificeren. Facebook en Google beschikken al over systemen om mogelijk illegale inhoud te controleren. Facebook zei ook dat het werkt aan nieuwe tools om de verspreiding van afbeeldingen van seksueel kindermisbruik op zijn platform te verminderen.
Dat blijkt uit een rapport van de Amerikaanse Nationale RaadVermiste en uitgebuite kinderen Facebook meldde in 2020 20 miljoen beelden van seksueel misbruik van kinderen aan de politie. Dit aantal omvat rapporten van zowel Facebook- als Instagram-platforms. In 2019 waren er 16 miljoen van dergelijke foto's.
Lees verder
De vertraging van de rotatie van de aarde veroorzaakte het vrijkomen van zuurstof op de planeet
Astronomen ontdekken ongewone structuren in de verre ruimte
Bekijk meer 60.000 jaar oude Neanderthaler-rotstekeningen