Поширення ІІ породжує низку проблем із конфіденційністю, про які люди можуть навіть не знати. З іншого
Ризики секретності від ІІ виникають не тількичерез масове збирання персональних даних, а й з самих моделей глибоких нейронних мереж, які забезпечують більшу частину сучасного штучного інтелекту. Дані уразливі не тільки через атаки на бази даних, а й через «витоків» в моделях, на яких вони були навчені.
Глибокі нейронні мережі, що представляють собоюсукупність алгоритмів, призначених для визначення патернів в даних, складаються з багатьох шарів. У цих шарах знаходиться велика кількість вузлів, які називаються нейронами, і нейрони з сусідніх шарів взаємопов'язані з ними. Кожен вузол, а також посилання між ними, кодують певні біти інформації. Ці біти інформації створюються, коли спеціальний процес сканує великі обсяги даних для навчання моделі.
Наприклад, алгоритм розпізнавання осіб може бутинавчений на серії Селфі, щоб він міг більш точно передбачити стать людини. Такі моделі дуже точні, але вони також можуть зберігати занадто багато інформації - фактично запам'ятовуючи певні особи в процесі навчання. Зловмисники можуть ідентифікувати людей за даними навчання, досліджуючи глибокі нейронні мережі, які класифікують підлогу на зображеному особі.
Одним з методів захисту, який придумалиексперти по машинному навчання, було додавання невизначеності в моделі ІІ. Це було зроблено, щоб зловмисники не могли точно передбачити, що буде робити модель. Чи буде він сканувати певну послідовність даних? Або він запустить пісочницю? В ідеалі шкідлива програма не знатиме і мимоволі викриє свої мотиви.
Інший спосіб покращити конфіденційність ІІ -дослідити уразливості глибоких нейронних мереж. Жоден алгоритм не ідеальний, і ці моделі вразливі. Причина в тому, що вони дуже чутливі до невеликих змін даних, які читають.
Ці вразливості можуть бути використані дляпокращення конфіденційності шляхом додавання «шуму» в особисті дані. Наприклад, дослідники з Інституту інформатики Планка в Німеччині розробили способи перетворення зображень Flickr на програмне забезпечення для розпізнавання осіб. Зміни надзвичайно тонкі, настільки, що їх неможливо виявити людським оком.
Ще один спосіб, яким ІІ може допомогти пом'якшитипроблеми із захистом інформації - зберегти конфіденційність даних при побудові моделей. Одна з багатообіцяючих розробок називається федеративним навчанням. Саме його Google використовує в своїй інтелектуальної клавіатурі Gboard, щоб передбачити, яке слово ввести наступним. Федеративний навчання будує остаточну глибоку нейронну мережу з даних, що зберігаються на багатьох різних пристроях, а не в одному центральному сховищі даних. Основна його перевага в тому, що вихідні дані ніколи не покидають локальні пристрої. Таким чином, конфіденційність в деякій мірі все ж захищена. Так, це не ідеальне рішення. Хоча локальні пристрої виконують деякі обчислення, вони не закінчують їх. Проміжні результати можуть розкрити деякі дані про пристрій і його користувача.
Федеративне навчання дає уявлення промайбутньому, в якому ІІ більш шанобливо ставиться до приватного життя. Дослідження, що продовжуються, можуть знайти більше способів, у яких ІІ стане частиною рішення, а не джерелом проблем з конфіденційністю.
Читати також
Подивіться, які органи коронавірус атакує першими і як це відбувається
Ким був перший організм на Землі? Забудьте все, що знали про зародження життя
Подивіться фотографії затемнення, які зняли з усього світу