Šírenie AI vyvoláva množstvo obáv o súkromie, o ktorých si ľudia možno ani neuvedomujú. S inou
Riziko utajenia z AI pramení nielenkvôli hromadnému zhromažďovaniu osobných údajov, ale aj z modelov samotných hlbokých neurónových sietí, ktoré poskytujú väčšinu modernej umelej inteligencie. Údaje sú zraniteľné nielen z dôvodu útokov na databázy, ale aj z dôvodu „únikov“ v modeloch, na ktorých boli vyškolené.
Reprezentujúce hlboké neurónové sieteSada algoritmov určených na určovanie vzorov v údajoch pozostáva z mnohých vrstiev. V týchto vrstvách je veľké množstvo uzlov nazývaných neuróny a neuróny zo susedných vrstiev sú s nimi prepojené. Každý uzol, ako aj odkazy medzi nimi, kódujú určité kúsky informácií. Tieto kúsky informácií sa vytvárajú, keď špeciálny proces skenuje veľké množstvo údajov, aby sa naučil model.
Napríklad algoritmus rozpoznávania tváre môže byťvyškolený na sérii selfies, aby mohol presnejšie predpovedať pohlavie osoby. Takéto modely sú veľmi presné, ale môžu si tiež uložiť príliš veľa informácií - v skutočnosti si pamätajú určitých ľudí v procese učenia. Útočníci dokážu identifikovať ľudí z tréningových dát skúmaním hlbokých neurónových sietí, ktoré klasifikujú pohlavie na zobrazenej tvári.
Jedna z metód ochrany, ktorá prišlastrojových učiteľov sa do modelu AI pridala neistota. Bolo to vykonané tak, aby útočníci nemohli presne predpovedať, čo bude model robiť. Bude skenovať špecifickú postupnosť údajov? Alebo spustí pieskovisko? V ideálnom prípade malware nebude vedieť a nevedomky odhalí svoje motívy.
Ďalším spôsobom, ako zlepšiť súkromie AI, jepreskúmať zraniteľnosť hlbokých neurónových sietí. Žiadny algoritmus nie je dokonalý a tieto modely sú zraniteľné. Dôvodom je, že sú veľmi citlivé na malé zmeny v údajoch, ktoré čítajú.
Tieto zraniteľnosti sa dajú využiťzlepšenie súkromia pridaním „šumu“ k osobným údajom. Napríklad výskumníci z Planck Institute for Informatics v Nemecku vyvinuli spôsoby, ako previesť obrázky Flickr na softvér na rozpoznávanie tváre. Zmeny sú neuveriteľne jemné, natoľko, že ich ľudské oko nedokáže rozpoznať.
Ďalší spôsob, ako AI môže pomôcť zmierniťproblémy s bezpečnosťou informácií - pri zostavovaní modelov zachovajte dôvernosť údajov. Jeden sľubný vývoj sa nazýva federované vzdelávanie. To je to, čo spoločnosť Google používa vo svojej inteligentnej klávesnici Gboard, aby predpovedala, ktoré slovo má zadať ďalej. Federované učenie stavia konečnú hlbokú neurónovú sieť z údajov uložených na mnohých rôznych zariadeniach, a nie v jednom centrálnom dátovom sklade. Jeho hlavnou výhodou je, že zdrojové údaje nikdy neopúšťajú lokálne zariadenia. Preto je súkromie stále trochu chránené. Áno, nie je to ideálne riešenie. Aj keď miestne zariadenia vykonávajú niektoré výpočty, nedokončujú ich. Priebežné výsledky môžu odhaliť niektoré údaje o zariadení a jeho užívateľovi.
Federované vzdelávanie poskytuje prehľadbudúcnosť, v ktorej AI bude viac rešpektovať súkromie. Pokračujúci výskum môže nájsť viac spôsobov, ako sa AI stane súčasťou riešenia a nie zdrojom obáv o súkromie.
Prečítajte si tiež
Zistite, ktoré orgány koronavírusové orgány napadnú ako prvé a ako sa to stane
Kto bol prvý organizmus na Zemi? Zabudnite na všetko, čo ste vedeli o pôvode života
Prezrite si zatmenie fotografií z celého sveta