Šíření umělé inteligence vyvolává řadu obav o soukromí, kterých si lidé možná ani neuvědomují. S jiným
Rizika utajení ze strany AI pramení nejenvzhledem k masivnímu shromažďování osobních údajů, ale také z modelů samotných hlubokých neuronových sítí, které poskytují většinu moderní umělé inteligence. Data jsou zranitelná nejen kvůli útokům na databáze, ale také kvůli „únikům“ v modelech, na nichž byla vyškolena.
Reprezentace hlubokých neuronových sítíSada algoritmů navržených pro určování vzorů v datech se skládá z mnoha vrstev. V těchto vrstvách je velké množství uzlů nazývaných neurony a neurony ze sousedních vrstev jsou s nimi propojeny. Každý uzel, jakož i odkazy mezi nimi, kódují určité kousky informací. Tyto kousky informací se vytvářejí, když speciální proces skenuje velké množství dat, aby se model naučil.
Například může být algoritmus rozpoznávání obličejecvičil na sérii selfies, aby mohl přesněji předpovídat pohlaví člověka. Tyto modely jsou velmi přesné, ale mohou také ukládat příliš mnoho informací - ve skutečnosti si pamatují určité lidi v procesu učení. Útočníci mohou identifikovat lidi na základě tréninkových dat zkoumáním hlubokých neuronových sítí, které klasifikují pohlaví podle zobrazené tváře.
Jedna z metod ochrany, která přišlaodborníci na strojové učení, došlo k přidání nejistoty v modelu AI. Bylo to provedeno tak, aby útočníci nemohli přesně předpovědět, co bude model dělat. Bude skenovat konkrétní sled dat? Nebo zahájí karanténu? V ideálním případě malware nebude vědět a nevědomky odhalí své motivy.
Dalším způsobem, jak zlepšit soukromí AI, jeprozkoumat zranitelnost hlubokých neuronových sítí. Žádný algoritmus není dokonalý a tyto modely jsou zranitelné. Důvodem je, že jsou velmi citlivé na malé změny v datech, která čtou.
Tyto zranitelnosti lze využítzlepšení soukromí přidáním „šumu“ k osobním údajům. Například výzkumníci z Planck Institute for Informatics v Německu vyvinuli způsoby, jak převést obrázky Flickr na software pro rozpoznávání obličejů. Změny jsou neuvěřitelně jemné, natolik, že je lidské oko nedokáže zachytit.
Další způsob, jak AI může pomoci zmírnitproblémy s bezpečností informací - při vytváření modelů zachovávejte důvěrnost dat. Jeden slibný vývoj se nazývá federované učení. To je to, co Google používá ve své chytré klávesnici, Gboard, k předpovědi, které slovo zadat dál. Federované učení vytváří konečnou hlubokou neuronovou síť z dat uložených na mnoha různých zařízeních, nikoli v jednom centrálním datovém skladu. Jeho hlavní výhodou je, že zdrojová data nikdy neopouštějí místní zařízení. Proto je soukromí stále poněkud chráněno. Ano, toto není ideální řešení. Přestože místní zařízení provádí některé výpočty, nedokončí je. Průběžné výsledky mohou odhalit některá data o zařízení a jeho uživateli.
Federované učení poskytuje vhled dobudoucnost, ve které bude umělá inteligence více respektovat soukromí. Pokračující výzkum může najít více způsobů, jak se AI stane součástí řešení spíše než zdrojem obav o soukromí.
Přečtěte si také
Podívejte se, které orgány koronavirus útočí jako první a jak k tomu dochází
Kdo byl první organismus na Zemi? Zapomeňte na všechno, co jste věděli o původu života
Podívejte se na zatmění pořízené po celém světě