De verspreiding van AI brengt een aantal privacyproblemen met zich mee waar mensen zich misschien niet eens van bewust zijn. Met iemand anders
De risico's van geheimhouding van AI zijn niet beperkt totvanwege de enorme verzameling van persoonlijke gegevens, maar ook van de diepe neurale netwerkmodellen zelf die de meeste van de huidige kunstmatige intelligentie aandrijven. Gegevens zijn niet alleen kwetsbaar voor database-aanvallen, maar ook voor "lekken" in de modellen waarop ze zijn getraind.
Diepe neurale netwerken, dat zijnde set algoritmen voor het identificeren van patronen in gegevens bestaat uit vele lagen. Deze lagen bevatten een groot aantal knooppunten die neuronen worden genoemd, en neuronen uit aangrenzende lagen zijn ermee verbonden. Elk knooppunt, evenals de verbindingen daartussen, coderen bepaalde stukjes informatie. Deze stukjes informatie worden gemaakt wanneer een speciaal proces grote hoeveelheden gegevens scant om het model te trainen.
Een algoritme voor gezichtsherkenning zou bijvoorbeeld kunnen zijngetraind op een reeks selfies, zodat hij het geslacht van een persoon nauwkeuriger kan voorspellen. Dergelijke modellen zijn zeer nauwkeurig, maar ze kunnen ook te veel informatie opslaan - in feite, bepaalde individuen onthouden tijdens het leerproces. Aanvallers kunnen mensen identificeren op basis van trainingsgegevens door diepe neurale netwerken te onderzoeken die het geslacht op een afgebeeld gezicht classificeren.
Een van de beschermingsmethoden die is bedachtmachine learning-experts voegde het onzekerheid toe aan het AI-model. Dit werd gedaan om te voorkomen dat aanvallers precies konden voorspellen wat het model zou doen. Zal het een specifieke reeks gegevens scannen? Of lanceert hij een sandbox? Idealiter zal malware zijn motieven niet kennen en onbewust onthullen.
Een andere manier om de privacy van AI te verbeteren isonderzoek de kwetsbaarheden van diepe neurale netwerken. Geen enkel algoritme is perfect en deze modellen zijn kwetsbaar. De reden is dat ze erg gevoelig zijn voor kleine veranderingen in de gegevens die ze lezen.
Deze kwetsbaarheden kunnen worden gebruikthet verbeteren van de privacy door “ruis” aan persoonlijke gegevens toe te voegen. Onderzoekers van het Planck Instituut voor Informatica in Duitsland hebben bijvoorbeeld manieren ontwikkeld om Flickr-afbeeldingen om te zetten in gezichtsherkenningssoftware. De veranderingen zijn ongelooflijk subtiel, zozeer zelfs dat ze niet door het menselijk oog kunnen worden waargenomen.
Een andere manier waarop AI kan helpen verzachteninformatiebeveiligingsproblemen - houd gegevens vertrouwelijk bij het bouwen van modellen. Een veelbelovende ontwikkeling heet federatief leren. Dit is wat Google gebruikt in zijn slimme toetsenbord, Gboard, om te voorspellen welk woord het volgende moet worden ingevoerd. Federatief leren bouwt het ultieme diepe neurale netwerk op uit gegevens die zijn opgeslagen op veel verschillende apparaten, in plaats van uit één centrale gegevensopslag. Het belangrijkste voordeel is dat de originele gegevens nooit de lokale apparaten verlaten. De vertrouwelijkheid wordt dus tot op zekere hoogte nog steeds beschermd. Ja, dit is geen perfecte oplossing. Hoewel de lokale apparaten enkele berekeningen uitvoeren, voltooien ze deze niet. Tussenresultaten kunnen enige informatie over het apparaat en de gebruiker ervan onthullen.
Gefedereerd leren geeft inzicht ineen toekomst waarin AI meer respect heeft voor de privacy. Voortgezet onderzoek kan mogelijk meer manieren opleveren waarop AI onderdeel wordt van de oplossing in plaats van de bron van privacyproblemen.
Lees ook
Kijk welke organen het coronavirus als eerste aanvalt en hoe dit gebeurt
Wie was het eerste organisme op aarde? Vergeet alles wat je wist over de oorsprong van het leven
Bekijk eclipsfoto's die over de hele wereld zijn gemaakt