¿Cómo empezó todo?
En septiembre de 2021 se publicó un nuevo informe de la ONU. Los expertos estudiaron cómo los países y las empresas
Ayer Michel Jefe de Derechos Humanos de la ONUBachelet, pidió una moratoria sobre el uso de tecnologías de inteligencia artificial que representan una seria amenaza para los derechos humanos. Incluyendo sistemas para escanear personas que siguen a personas en lugares públicos. Señaló que los países deberían prohibir de inmediato las aplicaciones de IA que no cumplan con el derecho internacional de los derechos humanos.
¿Dónde es inaceptable el uso de IA?
Aplicaciones para ser prohibidasEstos incluyen los sistemas de "calificación social" del gobierno que evalúan a las personas en función de su comportamiento, y ciertas herramientas basadas en inteligencia artificial que dividen a las personas en grupos, como el origen étnico o el género.
Tecnologías basadas en artificiales.La inteligencia “puede ser una fuerza para el bien” y también puede tener “consecuencias negativas, incluso catastróficas” si se utiliza sin considerar cómo impactan los derechos humanos, dijo Bachelet en un comunicado.
“No se trata de la falta de recursos artificialesinteligencia”, explicó a los periodistas Peggy Hicks, directora de interacción temática del Centro de Derechos Humanos de la ONU. Se dirigió a los medios de comunicación durante la presentación del informe en Ginebra. “La cuestión es que si se va a utilizar la IA en estas áreas funcionales tan importantes relacionadas con los derechos humanos, entonces debe hacerse correctamente. Y simplemente no hemos creado la estructura que garantice eso”.
Bachelet no pidió una prohibición totaltecnología de reconocimiento facial, pero señaló que los gobiernos deberían dejar de escanear el comportamiento de las personas en tiempo real. Por ejemplo, para evaluar el desempeño del personal. Debe asegurarse de que la tecnología sea precisa y que la IA sea imparcial y cumpla con los estándares de privacidad y protección de datos.
El informe también plantea preocupaciones sobreinstrumentos que intentan determinar el estado emocional y mental de las personas analizando sus expresiones faciales o movimientos corporales. Los expertos enfatizan que tales tecnologías están sujetas a sesgos, malas interpretaciones y falta de una base científica.
"El uso de sistemas por parte de las autoridades estatalesReconocer las emociones, por ejemplo, para resaltar a las personas para que sean detenidas o arrestadas por la policía, o para evaluar la veracidad de las declaraciones durante los interrogatorios, corre el riesgo de socavar los derechos humanos como la privacidad, la libertad y la justicia del poder judicial ”, dice el informe.
¿Dónde está especialmente agudo el problema del uso de la IA?
Aunque los nombres de países específicos en el informeNo se mencionan, vale la pena mencionar a China. Recordemos que en mayo las autoridades lanzaron un programa para probar cámaras de reconocimiento de emociones con uigures en la región occidental de Xinjiang. Y el reconocimiento de los propios uigures. Recordemos que allá por 2018, Human Rights Watch publicó un informe sobre la persecución a la población musulmana de la región china de Xinjiang. Según la organización, en los últimos años, los uigures han sido detenidos allí en masa y a menudo sin motivo, encerrándolos en prisiones y campos educativos; Millones de personas están bajo constante vigilancia por vídeo y su estatus social y su suerte dependen de los puntos acumulados en el sistema de “crédito social”.
Sin embargo, los autores clave del informe dijeron que nombrar países específicos no estaba dentro de su autoridad y podría incluso ser contraproducente.
“En el contexto chino, ¿cómoy en otros contextos, nos preocupa la transparencia y las aplicaciones discriminatorias dirigidas a comunidades específicas”, explica la portavoz de la ONU, Peggy Hicks.
Citó varios casos judiciales en los EE. UU. Y Australia donde se hizo un mal uso de la inteligencia artificial.
Uno de los precedentes más ruidosos en los Estados Unidos:situación con Amazon. Esta corporación es uno de los centros de desarrollo en el campo de la inteligencia artificial. En 2017, la compañía cerró un proyecto piloto de reclutamiento basado en inteligencia artificial que había estado ejecutando durante casi tres años. Uno de los problemas clave fue la discriminación de género de los candidatos: el algoritmo subestimó las evaluaciones de las candidatas.
Mientras tanto, en Australia, el tribunal creó un innovadorprecedente. Los sistemas de inteligencia artificial ahora pueden ser reconocidos legalmente como inventores en las solicitudes de patentes. Sin embargo, no todos estuvieron de acuerdo con esta decisión.
¿Cuál es el resultado final?
Las recomendaciones del informe reflejan las opiniones de muchoslíderes políticos en las democracias occidentales. Es importante no solo aprovechar el potencial económico y social de la IA, sino también abordar las crecientes preocupaciones sobre la confiabilidad de las herramientas que rastrean y perfilan a las personas.
La secretaria de Comercio de Estados Unidos, Gina Raimondo, duranteuna conferencia virtual en junio reforzó las preocupaciones de los funcionarios de la ONU. "Da miedo pensar en cómo se puede utilizar para reforzar aún más las tendencias discriminatorias", dijo. "Necesitamos asegurarnos de que no permitimos esto".
Por tanto, los reguladores europeos ya estánhan tomado medidas para frenar las aplicaciones de IA más riesgosas. Las reglas propuestas, establecidas por funcionarios de la Unión Europea este año, prohibirán ciertos usos de la inteligencia artificial, como el escaneo facial en tiempo real, y controlarán estrictamente otros usos que podrían amenazar la seguridad humana o los derechos humanos.
Leer Más lejos
Un barco único se convierte en submarino en dos minutos y es invisible para el enemigo.
Los físicos han enfriado los átomos a la temperatura más baja del mundo
El modelo más detallado del Universo se ha publicado en línea. Cualquiera puede estudiarlo