A proliferação da IA levanta uma série de preocupações com a privacidade das quais as pessoas podem nem estar cientes. Por outro lado
Os riscos de sigilo da IA não se limitam adevido à enorme coleção de dados pessoais, mas também dos próprios modelos de redes neurais profundas que alimentam a maior parte da inteligência artificial de hoje. Os dados são vulneráveis não apenas a ataques de banco de dados, mas também a "vazamentos" nos modelos nos quais foram treinados.
Redes neurais profundas, que sãoo conjunto de algoritmos para identificar padrões em dados é composto de muitas camadas. Essas camadas contêm um grande número de nós chamados neurônios, e neurônios de camadas vizinhas estão interconectados com eles. Cada nó, bem como os links entre eles, codifica certos bits de informação. Esses bits de informação são criados quando um processo especial verifica grandes quantidades de dados para treinar o modelo.
Por exemplo, um algoritmo de reconhecimento de rosto pode sertreinado em uma série de selfies para que possa prever com mais precisão o sexo de uma pessoa. Esses modelos são muito precisos, mas também podem armazenar muitas informações - na verdade, lembrando de certos indivíduos durante o processo de aprendizagem. Os invasores podem identificar pessoas a partir de dados de treinamento examinando redes neurais profundas que classificam o gênero em um rosto representado.
Um dos métodos de proteção que surgiu comespecialistas em aprendizado de máquina, estava adicionando incerteza ao modelo de IA. Isso foi feito para evitar que os invasores previssem exatamente o que o modelo faria. Ele fará a varredura de uma sequência específica de dados? Ou ele vai lançar uma sandbox? O ideal é que o malware não saiba e involuntariamente exponha seus motivos.
Outra maneira de melhorar a privacidade da IA éexplorar as vulnerabilidades das redes neurais profundas. Nenhum algoritmo é perfeito e esses modelos são vulneráveis. A razão é que eles são muito sensíveis a pequenas alterações nos dados que lêem.
Essas vulnerabilidades podem ser usadas paramelhorando a privacidade adicionando “ruído” aos dados pessoais. Por exemplo, investigadores do Instituto Planck de Informática, na Alemanha, desenvolveram formas de converter imagens do Flickr em software de reconhecimento facial. As mudanças são incrivelmente sutis, tanto que não podem ser detectadas pelo olho humano.
Outra maneira que a IA pode ajudar a mitigarproblemas de segurança da informação - mantenha os dados confidenciais ao construir modelos. Um desenvolvimento promissor é chamado de aprendizagem federada. Isso é o que o Google usa em seu teclado inteligente, Gboard, para prever qual palavra digitar a seguir. O aprendizado federado constrói a rede neural profunda definitiva a partir de dados armazenados em muitos dispositivos diferentes, em vez de um armazenamento de dados central. Sua principal vantagem é que os dados de origem nunca saem dos dispositivos locais. Assim, a confidencialidade ainda é protegida até certo ponto. Sim, esta não é uma solução perfeita. Embora os dispositivos locais façam alguns cálculos, eles não os concluem. Os resultados provisórios podem revelar algumas informações sobre o dispositivo e seu usuário.
A aprendizagem federada fornece insights sobreum futuro em que a IA respeite mais a privacidade. A investigação contínua poderá encontrar mais formas pelas quais a IA se torna parte da solução e não a fonte de preocupações com a privacidade.
Leia também
Veja quais órgãos o coronavírus ataca primeiro e como isso acontece
Quem foi o primeiro organismo da Terra? Esqueça tudo o que sabia sobre a origem da vida
Veja fotos de eclipses tiradas em todo o mundo