Utbredelsen av AI reiser en rekke personvernbekymringer som folk kanskje ikke engang er klar over. På den annen side
Risikoen for hemmelighold fra AI er ikke begrenset tilpå grunn av den enorme innsamlingen av personlige data, men også fra selve de dype nevrale nettverksmodellene, som driver mesteparten av dagens kunstige intelligens. Data er sårbare ikke bare for databaseangrep, men også for "lekkasjer" i modellene de ble trent på.
Dype nevrale nettverk, som ersettet med algoritmer for å identifisere mønstre i data består av mange lag. Disse lagene inneholder et stort antall noder som kalles nevroner, og nevroner fra tilstøtende lag er sammenkoblet med dem. Hver node, samt koblingene mellom dem, koder for bestemte biter av informasjon. Disse bitene av informasjon opprettes når en spesiell prosess skanner store mengder data for å trene modellen.
For eksempel kan en algoritme for ansiktsgjenkjenning væretrent på en serie med selfies slik at han mer nøyaktig kan forutsi en persons kjønn. Slike modeller er veldig nøyaktige, men de kan også lagre for mye informasjon - faktisk å huske visse individer under trening. Angripere kan identifisere mennesker fra treningsdata ved å undersøke dype nevrale nettverk som klassifiserer kjønn i et avbildet ansikt.
En av beskyttelsesmetodene som kom opp medmaskinlæringseksperter, tilføyde det usikkerhet til AI-modellen. Dette ble gjort for å forhindre at angripere forutsi nøyaktig hva modellen ville gjort. Vil den skanne en bestemt datasekvens? Eller vil han lansere en sandkasse? Ideelt sett vil ikke skadelig programvare vite det og ubevisst avsløre motivene.
En annen måte å forbedre AI-personvernet på erutforske sårbarhetene til dype nevrale nettverk. Ingen algoritme er perfekt, og disse modellene er sårbare. Årsaken er at de er svært følsomme for små endringer i dataene de leser.
Disse sårbarhetene kan brukes tilforbedre personvernet ved å legge til "støy" i personopplysninger. For eksempel har forskere ved Planck Institute for Informatics i Tyskland utviklet måter å konvertere Flickr-bilder til programvare for ansiktsgjenkjenning. Endringene er utrolig subtile, så mye at de ikke kan oppdages av det menneskelige øyet.
En annen måte som AI kan bidra til å redusereproblemer med informasjonssikkerhet - hold data konfidensielle når du bygger modeller. En lovende utvikling kalles føderert læring. Dette er hva Google bruker på sitt Gboard-smarte tastatur for å forutsi hvilket ord du skal skrive inn neste. Federert læring bygger det ultimate dype nevrale nettverket fra data lagret på mange forskjellige enheter, snarere enn en sentral datalager. Hovedfordelen er at kildedataene aldri forlater lokale enheter. Dermed er personvern fortsatt beskyttet til en viss grad. Ja, dette er ikke en perfekt løsning. Selv om de lokale enhetene gjør noen beregninger, fullfører de dem ikke. Midlertidige resultater kan avsløre noe informasjon om enheten og brukeren.
Federert læring gir innsikt ien fremtid der AI er mer respektfull for personvernet. Fortsatt forskning kan finne flere måter AI blir en del av løsningen på i stedet for kilden til personvernhensyn.
Les også
Se hvilke organer koronaviruset angriper først, og hvordan det skjer
Hvem var den første organismen på jorden? Glem alt du visste om livets opprinnelse
Se formørkelsesbilder tatt over hele verden