La proliferación de la IA plantea una serie de preocupaciones sobre la privacidad de las que la gente tal vez ni siquiera sea consciente. Con otro
Los riesgos de secreto de la IA no se limitan adebido a la recopilación masiva de datos personales, pero también de los propios modelos de redes neuronales profundas, que proporcionan gran parte de la inteligencia artificial actual. Los datos son vulnerables no solo a los ataques a la base de datos, sino también a las "fugas" en los modelos en los que fueron entrenados.
Redes neuronales profundas, que sonEl conjunto de algoritmos para identificar patrones en los datos se compone de muchas capas. Estas capas contienen una gran cantidad de nodos llamados neuronas, y las neuronas de las capas vecinas están interconectadas con ellos. Cada nodo, así como los enlaces entre ellos, codifican ciertos bits de información. Estos bits de información se crean cuando un proceso especial escanea grandes cantidades de datos para entrenar el modelo.
Por ejemplo, un algoritmo de reconocimiento facial podría serentrenado en una serie de selfies para que pueda predecir con mayor precisión el género de una persona. Dichos modelos son muy precisos, pero también pueden almacenar demasiada información, de hecho, recordar a ciertas personas durante el proceso de aprendizaje. Los atacantes pueden identificar a las personas a partir de los datos de entrenamiento examinando redes neuronales profundas que clasifican el género en una cara representada.
Uno de los métodos de protección que surgióexpertos en aprendizaje automático, agregaba incertidumbre al modelo de IA. Esto se hizo para evitar que los atacantes predigan exactamente lo que haría el modelo. ¿Escaneará una secuencia específica de datos? ¿O lanzará una caja de arena? Idealmente, el malware no lo sabrá y, sin saberlo, expondrá sus motivos.
Otra forma de mejorar la privacidad de la IA esexplorar las vulnerabilidades de las redes neuronales profundas. Ningún algoritmo es perfecto y estos modelos son vulnerables. La razón es que son muy sensibles a pequeños cambios en los datos que leen.
Estas vulnerabilidades se pueden utilizar paramejorar la privacidad añadiendo “ruido” a los datos personales. Por ejemplo, investigadores del Instituto Planck de Informática de Alemania han desarrollado formas de convertir imágenes de Flickr en software de reconocimiento facial. Los cambios son increíblemente sutiles, hasta el punto de que el ojo humano no puede detectarlos.
Otra forma en que la IA puede ayudar a mitigarproblemas de seguridad de la información: mantenga los datos confidenciales al crear modelos. Un desarrollo prometedor se llama aprendizaje federado. Esto es lo que Google usa en su teclado inteligente Gboard para predecir qué palabra escribir a continuación. El aprendizaje federado crea la red neuronal profunda definitiva a partir de los datos almacenados en muchos dispositivos diferentes, en lugar de un almacén de datos central. Su principal ventaja es que los datos de origen nunca salen de los dispositivos locales. Por lo tanto, la privacidad aún está protegida hasta cierto punto. Sí, esta no es una solución perfecta. Aunque los dispositivos locales hacen algunos cálculos, no los completan. Los resultados provisionales pueden revelar cierta información sobre el dispositivo y su usuario.
El aprendizaje federado proporciona información sobreun futuro en el que la IA sea más respetuosa con la privacidad. La investigación continua puede encontrar más formas en las que la IA se convierta en parte de la solución en lugar de en la fuente de preocupaciones sobre la privacidad.
Leer también
Vea qué órganos ataca primero el coronavirus y cómo sucede
¿Quién fue el primer organismo en la Tierra? Olvida todo lo que sabías sobre el origen de la vida.
Vea fotos del eclipse de todo el mundo