Spridningen av AI väcker ett antal integritetsproblem som människor kanske inte ens är medvetna om. Å andra sidan
Riskerna för hemlighet från AI härrör inte barapå grund av den enorma insamlingen av personuppgifter, men också från modellerna för djupa neurala nätverk själva, som tillhandahåller det mesta av modern konstgjord intelligens. Data är sårbara inte bara på grund av attacker på databaser, utan också på grund av ”läckor” i modellerna som de utbildades på.
Djupa neurala nätverk som representerarEn uppsättning algoritmer utformade för att bestämma mönster i data består av många lager. I dessa lager finns ett stort antal noder som kallas neuroner, och neuroner från angränsande lager är sammankopplade med dem. Varje nod, liksom länkar mellan dem, kodar vissa informationsbitar. Dessa informationsbitar skapas när en speciell process skannar stora mängder data för att träna modellen.
Till exempel kan en ansiktsigenkänningsalgoritm varatränad i en serie selfies så att han mer exakt kan förutsäga en persons kön. Sådana modeller är mycket exakta, men de kan också lagra för mycket information - faktiskt komma ihåg vissa personer i inlärningsprocessen. Angripare kan identifiera personer baserat på träningsdata genom att utforska djupa nervnätverk som klassificerar kön på det visade ansiktet.
En av de skyddsmetoder som kom uppmaskininlärningsexperter, det fanns tillägg av osäkerhet i AI-modellen. Detta gjordes så att angriparna inte kunde förutsäga exakt vad modellen skulle göra. Kommer det att skanna en specifik sekvens av data? Eller kommer han att starta sandlådan? Helst kommer skadlig programvara inte att veta och avslöja dess motiv.
Ett annat sätt att förbättra AI-integriteten ärutforska sårbarheterna i djupa neurala nätverk. Ingen algoritm är perfekt, och dessa modeller är sårbara. Anledningen är att de är mycket känsliga för små förändringar i den data de läser.
Dessa sårbarheter kan användas tillförbättra integriteten genom att lägga till "brus" i personuppgifter. Till exempel har forskare vid Planck Institute for Informatics i Tyskland utvecklat sätt att konvertera Flickr-bilder till mjukvara för ansiktsigenkänning. Förändringarna är otroligt subtila, så mycket att de inte kan upptäckas av det mänskliga ögat.
Ett annat sätt AI kan hjälpa till att mildraproblem med informationssäkerhet - bibehålla datasekretess när man bygger modeller. En lovande utveckling kallas federated learning. Det är vad Google använder på sitt smarta tangentbord, Gboard, för att förutsäga vilket ord som ska anges nästa. Federated learning bygger det ultimata djupa neurala nätverket från data lagrade på många olika enheter, snarare än i ett centralt datalager. Dess främsta fördel är att källdata aldrig lämnar lokala enheter. Således är integriteten fortfarande något skyddad. Ja, det här är ingen idealisk lösning. Även om lokala enheter utför vissa beräkningar slutför de inte dem. Mellanresultat kan avslöja vissa uppgifter om enheten och dess användare.
Federerat lärande ger insikt ien framtid där AI respekterar integriteten mer. Fortsatt forskning kan hitta fler sätt på vilka AI blir en del av lösningen snarare än källan till integritetsproblem.
Läs också
Se vilka organ som koronaviruset attackerar först och hur det händer
Vem var den första organismen på jorden? Glöm allt du visste om livets ursprung
Se förmörkningsfoto tagna runt om i världen