Udbredelsen af kunstig intelligens rejser en række bekymringer om privatlivets fred, som folk måske ikke engang er opmærksomme på. På den anden side
Risikoen for hemmeligholdelse fra AI er ikke begrænset tilpå grund af den massive indsamling af personlige data, men også fra selve de dybe neurale netværksmodeller, der styrer det meste af nutidens kunstige intelligens. Data er ikke kun sårbare over for databaseangreb, men også for "lækager" i de modeller, som de blev trænet på.
Dybe neurale netværk, som ersættet af algoritmer til identifikation af mønstre i data består af mange lag. Disse lag indeholder et stort antal noder kaldet neuroner, og neuroner fra tilstødende lag er forbundet med dem. Hver knude såvel som forbindelserne mellem dem koder for bestemte informationsbits. Disse informationsbiter oprettes, når en særlig proces scanner store mængder data for at træne modellen.
For eksempel kan en algoritme til ansigtsgenkendelse væretrænet i en række selfies, så det mere præcist kan forudsige en persons køn. Sådanne modeller er meget nøjagtige, men de kan også gemme for meget information - faktisk huske visse individer under indlæringsprocessen. Angribere kan identificere mennesker fra træningsdata ved at undersøge dybe neurale netværk, der klassificerer køn på et afbildet ansigt.
En af de beskyttelsesmetoder, der kom op medmaskinindlæringseksperter, tilføjede det usikkerhed til AI-modellen. Dette blev gjort for at forhindre angribere i at forudsige nøjagtigt, hvad modellen ville gøre. Vil det scanne en bestemt sekvens af data? Eller vil han starte en sandkasse? Ideelt set kender malware ikke og afslører ubevidst dets motiver.
En anden måde at forbedre AI-privatlivet på erudforske sårbarhederne i dybe neurale netværk. Ingen algoritme er perfekt, og disse modeller er sårbare. Årsagen er, at de er meget følsomme over for små ændringer i de data, de læser.
Disse sårbarheder kan bruges tilforbedre privatlivets fred ved at tilføje "støj" til personlige data. For eksempel har forskere ved Planck Institute for Informatics i Tyskland udviklet måder at konvertere Flickr-billeder til ansigtsgenkendelsessoftware. Ændringerne er utroligt subtile, så meget, at de ikke kan opdages af det menneskelige øje.
En anden måde AI kan hjælpe med at afbødeinformationssikkerhedsproblemer - hold data fortrolige, når du bygger modeller. En lovende udvikling kaldes fødereret læring. Dette er hvad Google bruger i sit Gboard-smarte tastatur til at forudsige hvilket ord der skal indtastes næste. Federeret læring bygger det ultimative dybe neurale netværk fra data lagret på tværs af mange forskellige enheder snarere end et centralt datalager. Dens største fordel er, at kildedataene aldrig forlader lokale enheder. Således er privatlivets fred stadig beskyttet i et vist omfang. Ja, dette er ikke en perfekt løsning. Selvom de lokale enheder foretager nogle beregninger, udfylder de dem ikke. Midlertidige resultater afslører muligvis nogle oplysninger om enheden og dens bruger.
Fødereret læring giver indsigt ien fremtid, hvor AI i højere grad respekterer privatlivets fred. Fortsat forskning kan finde flere måder, hvorpå AI bliver en del af løsningen i stedet for kilden til bekymringer om privatlivets fred.
Læs også
Se, hvilke organer coronavirus angriber først, og hvordan det sker
Hvem var den første organisme på Jorden? Glem alt hvad du vidste om livets oprindelse
Se formørkelsesfotos taget over hele verden