Разпространението на AI повдига редица опасения за поверителността, за които хората може дори да не подозират. С друг
Рисковете от секретност от ИИ не са ограничени допоради масивното събиране на лични данни, но и от самите модели на дълбока невронна мрежа, които захранват по-голямата част от съвременния изкуствен интелект. Данните са уязвими не само за атаки на база данни, но и за "течове" в моделите, на които са обучени.
Дълбоки невронни мрежи, които санаборът от алгоритми за идентифициране на модели в данните са съставени от много слоеве. Тези слоеве съдържат голям брой възли, наречени неврони, а невроните от съседните слоеве са взаимосвързани с тях. Всеки възел, както и връзките между тях, кодират определени битове информация. Тези битове на информация се създават, когато специален процес сканира големи количества данни за обучение на модела.
Например, може да бъде алгоритъм за разпознаване на лицаобучени на серия селфи, за да може по-точно да прогнозира пола на човек. Такива модели са много точни, но също така могат да съхраняват твърде много информация - всъщност запомняйки определени хора по време на процеса на обучение. Нападателите могат да идентифицират хората от тренировъчни данни, като изследват дълбоки невронни мрежи, които класифицират пола на изобразено лице.
Един от методите за защита, който се появиексперти по машинно обучение, това добавя несигурност към AI модела. Това беше направено, за да попречи на нападателите да прогнозират точно какво ще направи моделът. Ще сканира ли конкретна последователност от данни? Или ще пусне пясъчник? В идеалния случай зловредният софтуер няма да знае и несъзнателно излага своите мотиви.
Друг начин за подобряване на поверителността на AI еизследват уязвимостите на дълбоките невронни мрежи. Никой алгоритъм не е перфектен и тези модели са уязвими. Причината е, че те са много чувствителни към малки промени в данните, които четат.
Тези уязвимости могат да се използват заподобряване на поверителността чрез добавяне на „шум“ към личните данни. Например, изследователи от Института за информатика Планк в Германия са разработили начини за конвертиране на изображения от Flickr в софтуер за разпознаване на лица. Промените са невероятно фини, толкова много, че не могат да бъдат открити от човешкото око.
Друг начин AI може да помогне за смекчаванепроблеми със сигурността на информацията - пазете данните поверителни при изграждането на модели. Едно обещаващо развитие се нарича федерално обучение. Това използва Google в интелигентната си клавиатура Gboard, за да предвиди коя дума да въведете следваща. Федералното обучение изгражда крайната дълбока невронна мрежа от данни, съхранявани на много различни устройства, а не в един централен магазин за данни. Основното му предимство е, че изходните данни никога не напускат локални устройства. Така поверителността все още е защитена до известна степен. Да, това не е перфектно решение. Въпреки че местните устройства правят някои изчисления, те не ги завършват. Междинните резултати могат да разкрият някаква информация за устройството и неговия потребител.
Федерираното обучение дава представа забъдеще, в което изкуственият интелект уважава повече поверителността. Продължаващото проучване може да открие повече начини, по които изкуственият интелект става част от решението, а не източник на опасения за поверителността.
Прочетете също
Вижте в кои органи коронавирусът атакува първо и как се случва
Кой беше първият организъм на Земята? Забравете всичко, което знаехте за произхода на живота
Вижте снимки на затъмнението от цял свят