Burton Rast- scriitor, profesor, mentor și fost director de artă al agenției de design IDEO, iar astăzi - prezentator
"În Statele Unite, nu toată lumea știe despre GDPR"
- Poți vorbi despre proiectele pe care lucrezi acum?
— Proiectele la care lucrez acum nu suntse va lansa înainte de 2020, așa că nu pot vorbi despre ele. Dar recent sa alăturat echipei de confidențialitate și protecție a datelor. Lucrăm la diverse lucruri, de exemplu, pentru ca produsele noastre să fie conforme cu GDPR în Europa - acesta este Regulamentul general privind protecția datelor.
- Da, știu ce este GDPR.
"Ei bine, nu toată lumea în Statele Unite știe despre el!" În plus, există lucruri pe care le-am anunțat la IO, de exemplu, învățarea în mașini federalizate. Aceasta este o învățare automată sigură și distribuită. Cu aceasta, ele îmbunătățesc modelele fără a descărca date de la dispozitivele utilizatorilor. Apoi, modelul îmbunătățit este încărcat în aceleași dispozitive.
Foto: festival Dezactivat
- Recent, Comisia de etică din AI a fost închisă la Google ...
- Nu sunt rudă cu ea.
- Dar poți vorbi în general despre etică în AI?
- Pe cont propriu, da, dar nu în numele Google.
- Comisia de etică a fost închisă după o săptămânădupă crearea sa, deoarece Google a fost criticat pentru includerea anumitor persoane în el. În principiu, considerați că este normal ca un grup restrâns de oameni să se adreseze problemelor etice în AI pentru toți?
- Personal - nu, nu cred că un grup micoamenii pot articula această etică. Anul trecut am publicat o listă de principii în AI. Ei definesc munca în acest domeniu. Nu vom mai lucra pentru armată, pentru ceva pentru arme, pentru ceva care ar putea contrazice legile drepturilor omului. Cred că acest lucru poate și ar trebui să inspire alte companii. Acest document ar trebui să evolueze în timp, deoarece IA este, de asemenea, în evoluție. Trebuie să începem undeva, dar, în general, ar trebui să fie mult mai gravă decât încercarea unei companii sau, după cum ați spus, un grup de oameni.
"În toate datele noastre sunt persoane părtinitoare"
- Putem chiar să scăpăm de părtinire în AI?
— Aceasta este o problemă în curs de dezvoltare și destul de complexă.Gândiți-vă cât de repede se dezvoltă limbajul. Proiectarea sistemelor care să înțeleagă cum se întâmplă acest lucru și să elimine noile tipuri de părtinire și discriminare atunci când apar este foarte dificilă. Aceste sisteme trebuie să fie gestionate de oameni, trebuie să construim în ele posibilitatea intervenției umane. Poate cineva să proiecteze un sistem perfect? Una care înlătură părtinirea înainte de a începe? Probabil ca nu. Toate datele noastre au părtinire umană încorporată. În esență, trebuie să creăm un sistem care este mai bun decât oamenii.
- Este posibil?
- Puteți îmbunătăți sistemul în această direcție. Astăzi vedem o mulțime de oameni inteligenți care nu se gândesc doar la modul de dezvoltare a sistemelor în sine, ci și la regulile generale de proiectare și dezvoltare pe care alții le pot utiliza. Cred că este un început bun, vom putea să învățăm din greșelile trecutului și să creăm treptat sisteme în care nu există loc pentru părtinire în date.
Foto: Off Festival
- UNESCO a publicat recent un raport privind genuldiscriminarea în asistenții vocali - toți au voci feminine. Una dintre acțiunile necesare, autorii raportului au numit dezvoltarea unei mașini, voce neutră din punctul de vedere al genului. Cum te simți în legătură cu asta?
- Este destul de dificil: Ar trebui oamenii să poată alege vocea asistentului lor? Sau ar trebui să se ia o decizie generală care să afecteze miliarde de oameni? Pot trei companii să ia această decizie? Problema nu se referă numai la sex - nu există aproape voci care să reprezinte persoane de diferite culturi, grupuri etnice. În acest domeniu există încă o mulțime de lucruri și nu sunt sigur că există un răspuns simplu.
Raportul UNESCO se numește „M-aș înroși dacă aș putea”(„Aș înroși dacă aș putea” - „High-Tech”) este răspunsul lui Siri la numeroasele insulte ale utilizatorilor împotriva ei. Autorii raportului văd problema că toți asistenții vocali folosesc vocile tinerelor și ele, printre altele, nu răspund la insultele bazate pe discriminarea de gen. UNESCO solicită un echilibru mai mare de gen în echipele care dezvoltă IA: în prezent, doar 12% dintre cercetătorii AI sunt femei.
"Vreau mai multă intimitate"
- Revenind la problema confidențialității - nu credeți că în ultimul timp oamenii au panicat prea mult?
- Nu, de mult timp am fost un activist în domeniul protecției datelor,Acesta este motivul pentru care te-ai alăturat echipei. Nu sunt genul de persoană care crede că oamenii se panică prea mult. Sunt un fel de persoană pe care familia și prietenii o consideră nebună, la nivelul unui "capac de folie". Mi se pare că oamenii ar trebui cu siguranță să fie preocupați de intimitatea lor. Dacă nu sunteți interesat, atunci cel puțin puneți întrebări. Și ar trebui să se aștepte ca compania care le folosește datele să le povestească despre asta.
"Companiile încearcă deja să explice mai exact ce se întâmplă cu datele. Care sunt pașii următori în această direcție?
- Nu cred că oamenii sunt obligați să înțeleagă în toatecomplexitatea modului în care datele lor sunt utilizate pe Internet. Oamenii au o înțelegere comună, acest lucru este confirmat de cercetările noastre. De exemplu, majoritatea serviciilor sunt gratuite, deoarece datele sunt folosite pentru publicitate. Dar când vine vorba de oameni și companii care doresc să acceseze date, ei folosesc amprentele digitale ale dispozitivului - nu cred că oamenii ar trebui să știe asta. Este o afacere a companiilor pentru a proteja utilizatorii
- Nu poți spune exact despre proiecte noi?
— Pot spune în termeni generali:Utilizatorii ar trebui să poată spune „Vreau mai multă confidențialitate”, într-un mod foarte simplu. Lucrăm pentru ca acest lucru să devină realitate în toate produsele noastre de bază.
- Cum? Apăsați butonul "face totul privat"?
- Desigur, nu vom pune un uriașcomutați cu cuvintele "Confidențialitate" în căutarea Google. Este destul de greu ca echipele care lucrează pe produse cu o audiență de peste un miliard de utilizatori - căutare, hărți, Android, YouTube - să facă schimbări care le vor afecta foarte mult ideile. Nu se întâmplă într-o singură zi. Dar lucrăm la asta.