Burton Rastis schrijver, docent, mentor, voormalig art director van het ontwerpbureau IDEO en tegenwoordig presentator
"In de VS weet niet iedereen de GDPR"
- Kun je praten over de projecten waar je nu aan werkt?
"De projecten waar ik nu mee bezig ben, beginnen pas in 2020, dus daar kan ik niet over praten.Maar onlangs is hij toegetreden tot het privacy- en gegevensbeschermingsteam.We werken aan verschillende dingen, bijvoorbeeld om onze producten in Europa GDPR-compliant te maken – dit is de "Algemene Verordening"Gegevensbescherming".
- Ja, ik weet wat GDPR is.
"Nou, niet iedereen in de VS weet van hem!" Daarnaast zijn er dingen die we bij IO hebben aangekondigd, bijvoorbeeld federatief machine learning. Dit is veilig en gedistribueerd machine learning. Hiermee verbeteren ze modellen zonder gegevens van gebruikersapparaten te downloaden. En dan wordt het verbeterde model op dezelfde apparaten geladen.
Foto: Festival Off
- Onlangs werd de commissie over ethiek in AI gesloten bij Google ...
"Ik ben niet met haar verbonden.
- Maar kun je in het algemeen over ethiek praten in AI?
- Alleen, ja, maar niet namens Google.
- De ethische commissie was na een week geslotenna zijn oprichting, zoals Google werd bekritiseerd voor het opnemen van bepaalde mensen erin. Vind je het in principe normaal dat een kleine groep mensen ethische kwesties in AI voor iedereen behandelt?
- Persoonlijk - nee, ik geloof niet dat het een kleine groep ismensen kunnen deze ethiek verwoorden. Vorig jaar publiceerden we een lijst met principes in AI. Ze definiëren werk op dit gebied. We zullen niet langer werken voor het leger, iets voor wapens, iets dat de mensenrechtenwetgeving kan tegenspreken. Ik denk dat dit andere bedrijven kan en moet inspireren. Dit document zou in de loop van de tijd moeten evolueren, omdat ook de AI evolueert. We moeten ergens beginnen, maar over het algemeen zou het veel serieuzer moeten zijn dan één bedrijf te proberen, of, zoals je zei, één groep mensen.
"In al onze gegevens zijn bevooroordeelde mensen"
- Kunnen we zelfs van vooroordelen in AI af?
"Het is een evoluerend en vrij complex probleem.Het is erg moeilijk om systemen te ontwerpen die begrijpen hoe dit gebeurt en nieuwe soorten vooroordelen en discriminatie wegnemen wanneer ze zich voordoen.Deze systemen moeten door mensen worden beheerd, we moeten er de mogelijkheid van menselijk ingrijpen in inbouwen.Kan iemand het perfecte systeem ontwerpen dat reinigt?Waarschijnlijk niet. Al onze gegevens bevatten menselijke vooroordelen.In wezen moeten we een systeem creëren dat beter is dan mensen.
- Is het mogelijk?
- Je kunt het systeem in deze richting verbeteren. Vandaag zien we veel slimme mensen die niet alleen denken over hoe ze de systemen zelf kunnen ontwikkelen, maar ook over de algemene regels voor ontwerp en ontwikkeling die anderen kunnen gebruiken. Ik denk dat dit een goed begin is, we zullen kunnen leren van de fouten uit het verleden en geleidelijk aan systemen creëren waarin geen plaats is voor bias in de data.
Foto: Off Festival
- UNESCO heeft onlangs een rapport over gender gepubliceerddiscriminatie bij stemassistenten - ze hebben allemaal vrouwelijke stemmen. Een van de noodzakelijke acties, de auteurs van het rapport genoemd de ontwikkeling van een machine, gender-neutrale stem. Hoe voel je je hierover?
- Het is best moeilijk: Moeten mensen de stem van hun assistent kunnen kiezen? Of moet er een algemene beslissing worden genomen die miljarden mensen zal raken? Kunnen drie bedrijven deze beslissing nemen? Het probleem zit niet alleen in het geslacht - er zijn bijna geen stemmen die mensen van verschillende culturen, etnische groepen vertegenwoordigen. Er is nog steeds veel werk op dit gebied en ik weet niet zeker of er een eenvoudig antwoord is.
Het UNESCO-rapport heet "Ik zou blozen als ik kon" – "Ik zou blozen als ik kon" – dit is het antwoordSiri reageerde op de talrijke beledigingen van gebruikers ertegen.Het probleem is dat alle stemassistenten de stemmen van jonge vrouwen gebruiken en onder andere niet reagerenUNESCO roept op tot meer genderevenwicht in teams die zich ontwikkelenAI: Op dit moment is slechts 12% van de AI-onderzoekers vrouw.
"Ik wil meer privacy"
- Terugkomend op de kwestie van privacy - vind je niet dat de laatste tijd mensen te veel in paniek raken?
- Nee, ik ben lang een activist geweest in gegevensbescherming,Dit is gedeeltelijk de reden waarom je bij het team bent gekomen. Ik ben niet het soort persoon dat denkt dat mensen te veel in paniek raken. Ik ben het soort persoon dat familie en vrienden als gek beschouwen, op het niveau van een "foliekap". Het lijkt mij dat mensen zich zeker zorgen moeten maken over hun privacy. Als je niet bezorgd bent, stel dan op zijn minst vragen. En ze mogen verwachten dat het bedrijf dat hun gegevens gebruikt hen daarover zal vertellen.
"Nu proberen bedrijven nu al specifiek uit te leggen wat er met de gegevens gebeurt. Wat zijn de volgende stappen in deze richting?
- Ik denk niet dat mensen het in alles moeten begrijpende complexiteit van hoe hun gegevens op internet worden gebruikt. Mensen hebben hetzelfde begrip, dit wordt bevestigd door ons onderzoek. De meeste services zijn bijvoorbeeld gratis omdat gegevens worden gebruikt voor adverteren. Maar als het gaat om dubieuze mensen en bedrijven die toegang willen hebben tot gegevens, gebruiken ze digitale vingerafdrukken van het apparaat - ik denk niet dat mensen dit moeten uitzoeken. Het is de taak van bedrijven om gebruikers te beschermen.
- Je kunt niet precies vertellen over nieuwe projecten?
"Over het algemeen moeten gebruikers op een heel eenvoudige manier kunnen zeggen: 'Ik wil meer privacy'.We werken eraan om dit te realiseren in al onze kernproducten.
- Hoe? Druk op de knop "Alles privé maken"?
- Natuurlijk zetten we geen reusschakelen met de woorden 'Privacy' in Google Zoeken. Het is behoorlijk moeilijk om teams bezig te houden met producten met een publiek van meer dan een miljard gebruikers - zoeken, kaarten, Android, YouTube - om wijzigingen aan te brengen die hun ideeën sterk beïnvloeden. Het gebeurt niet op één dag. Maar we werken eraan.