Proliferarea AI ridică o serie de preocupări legate de confidențialitate de care oamenii nici măcar nu sunt conștienți. Cu altul
Riscurile secretului de la AI nu se limitează ladatorită colectării masive de date cu caracter personal, dar și din modelele profunde ale rețelei neuronale, care alimentează majoritatea inteligenței artificiale de astăzi. Datele sunt vulnerabile nu numai la atacurile bazei de date, ci și la „scurgerile” din modelele pe care au fost instruite.
Rețele neuronale profunde, care suntsetul de algoritmi pentru identificarea tiparelor în date sunt compuse din mai multe straturi. Aceste straturi conțin un număr mare de noduri numite neuroni, iar neuronii din straturile adiacente sunt interconectați cu aceștia. Fiecare nod, precum și legăturile dintre ele, codifică anumiți biți de informații. Aceste biți de informații sunt create atunci când un proces special scanează cantități mari de date pentru a instrui modelul.
De exemplu, ar putea fi un algoritm de recunoaștere a fețeiinstruit pe o serie de selfie-uri, astfel încât să poată prezice mai exact genul unei persoane. Astfel de modele sunt foarte exacte, dar pot stoca, de asemenea, prea multe informații - de fapt, amintindu-și anumite persoane în timpul procesului de învățare. Atacatorii pot identifica oamenii din datele de antrenament examinând rețelele neuronale profunde care clasifică genul pe o față descrisă.
Una dintre metodele de protecție care a venit cuexperți în învățarea automată, a adăugat incertitudine modelului AI. Acest lucru a fost făcut pentru a împiedica atacatorii să prezică exact ce va face modelul. Va scana o anumită secvență de date? Sau va lansa un sandbox? În mod ideal, programele malware nu își vor cunoaște motivele.
O altă modalitate de a îmbunătăți confidențialitatea AI esteexplorați vulnerabilitățile rețelelor neuronale profunde. Niciun algoritm nu este perfect, iar aceste modele sunt vulnerabile. Motivul este că sunt foarte sensibili la mici modificări ale datelor pe care le citesc.
Aceste vulnerabilități pot fi folosite pentruîmbunătățirea confidențialității prin adăugarea de „zgomot” la datele personale. De exemplu, cercetătorii de la Institutul Planck de Informatică din Germania au dezvoltat modalități de a converti imaginile Flickr în software de recunoaștere facială. Schimbările sunt incredibil de subtile, atât de mult încât nu pot fi detectate de ochiul uman.
O altă modalitate prin care AI poate ajuta la atenuareprobleme de securitate a informațiilor - păstrați confidențialitatea datelor atunci când creați modele. O dezvoltare promițătoare se numește învățare federalizată. Aceasta este ceea ce Google folosește în tastatura sa inteligentă Gboard pentru a prezice ce cuvânt să introducă în continuare. Învățarea federalizată construiește rețeaua neuronală profundă supremă din datele stocate pe mai multe dispozitive diferite, mai degrabă decât un singur magazin central de date. Principalul său avantaj este că datele sursă nu părăsesc niciodată dispozitivele locale. Astfel, confidențialitatea este încă protejată într-o oarecare măsură. Da, aceasta nu este o soluție perfectă. Deși dispozitivele locale fac unele calcule, nu le completează. Rezultatele intermediare pot dezvălui unele informații despre dispozitiv și utilizatorul acestuia.
Învățarea federată oferă o perspectivă asupraun viitor în care AI respectă mai mult confidențialitatea. Cercetările continue pot găsi mai multe moduri în care AI devine parte a soluției, mai degrabă decât sursa preocupărilor legate de confidențialitate.
Citește și
Vedeți ce organe primează atacurile coronavirusului și cum se întâmplă
Cine a fost primul organism de pe Pământ? Uită tot ce știai despre originea vieții
Vedeți fotografii ale eclipsei din întreaga lume