¿Cómo empezó todo?
La Unión Europea está discutiendo la posibilidad de prohibir el uso de artificiales.
Como parte del proyecto de resolución“Sobre un enfoque europeo de la inteligencia artificial”, el ejecutivo de la UE propone prohibir las tecnologías de IA que se utilizan para “la vigilancia masiva aplicada de manera generalizada a todos los individuos sin distinción alguna”. El texto del proyecto de ley describe en detalle métodos de vigilancia como "el seguimiento y seguimiento de personas en el entorno digital o físico, así como la agregación y análisis automáticos de datos personales de diversas fuentes", informa la agencia de noticias REGNUM.
La Comisión Europea busca declararde la ley de sistemas de inteligencia artificial (IA) utilizados para la "vigilancia masiva de personas" como parte de las nuevas prohibiciones que se introducirán la próxima semana.
Además, la Comisión Europea prevé prohibicionesutilizar aplicaciones de inteligencia artificial que violen los valores de la UE o los derechos humanos. Estos incluyen sistemas que manipulan el comportamiento humano y se dirigen a poblaciones vulnerables.
Según el borrador, los miembros de la UE, por ejemplo, tendrán quecrear comités de evaluación para probar y validar sistemas de IA de alto riesgo. Y las empresas que desarrollan o venden IA que están sujetas a restricciones, incluidas las de otros países del mundo, pueden recibir una multa de hasta el 4% de sus ingresos globales.
¿Qué es la inteligencia artificial de “alto riesgo”?
De acuerdo con las reglas planificadas, aquellos quetiene la intención de aplicar inteligencia artificial, tendrá que determinar si un caso de uso particular es de "alto riesgo" y, por lo tanto, si es necesario realizar una evaluación previa al cumplimiento obligatoria o no.
Ejemplos de IA de alto riesgo:
- sistemas que priorizan el despacho de servicios de emergencia,
- sistemas que determinan el acceso o designación de personas a las instituciones educativas,
- algoritmos de reclutamiento,
- aquellos que evalúan la solvencia,
- para realizar evaluaciones de riesgos individuales,
- algoritmos para predecir delitos.
¿Cuál es la esencia del proyecto de ley de control de la IA?
Te explicamos lo que aporta el nuevo proyecto de ley.
Recopilación de datos sobre ciudadanos que utilizan los sistemas.vigilancia, seguimiento de redes sociales, información bancaria y otras fuentes - “la vigilancia indiscriminada de personas debe prohibirse si se aplica de manera generalizada a todas las personas sin distinción”. En otras palabras, es posible que se permita la vigilancia “selectiva”, si un individuo tiene algo de interés para las autoridades competentes, pero la vigilancia total “por si acaso” probablemente estará prohibida en Europa.
El proyecto de ley también prevé la prohibición deintroducción de un sistema de calificación social o crédito social, cuando se acumula una gran cantidad de datos sobre conexiones, comportamiento, compras y otra información sobre los ciudadanos, y se crea un retrato social del ciudadano basado en la totalidad de los datos. La IA o las redes neuronales también pueden ayudar a resolver esto. Esto les encanta en el sector bancario y Europa no es una excepción en este sentido. Pero China ha ido más lejos en la creación de un sistema de crédito social, donde a las personas con calificaciones bajas se les niegan boletos para el transporte interurbano, residencia en ciertas áreas y se introducen una serie de otras restricciones. Estos sistemas de IA tienen "altas posibilidades de influir en el sustento de una persona", señala el documento.
Respecto a la calificación social en la facturadijo: "Los sistemas de inteligencia artificial utilizados para evaluar indicadores sociales de propósito general deberían prohibirse". Se espera que se vote sobre este proyecto de ley el 21 de abril. Hasta este momento, los representantes de la Comisión Europea se niegan a comentar sobre el documento no aprobado.
El proyecto también prevé:
- notificaciones sobre la interacción humana con la IA, a menos que sea "obvio por las circunstancias y el contexto de uso",
- evaluación de sistemas de alto riesgo antes de que seanpuesta en servicio, incluida la garantía de que estos sistemas sean comprensibles para los supervisores humanos y que estén capacitados en conjuntos de datos de "alta calidad" probados para detectar sesgos,
- creación de un “Consejo Europeo sobre Inteligencia Artificial”, formado por representantes de todos los países de la UE.
¿Qué opinan los expertos sobre el control de la IA?
Quizás la sección más importante del documentoes un artículo que prohíbe ciertos usos de la inteligencia artificial, incluida la vigilancia masiva y las calificaciones crediticias sociales. Sin embargo, las reacciones al proyecto de los grupos de derechos digitales y los expertos en políticas dicen que esta sección debe mejorarse.
“Descripciones de sistemas artificiales prohibidos.Los datos de inteligencia son vagos y contienen un lenguaje poco claro que puede crear graves lagunas”, explica Daniel Leufer, analista de políticas europeas de Access Now, en una entrevista con The Verge. Esta sección, en sus palabras, está “lejos de ser ideal”.
¿Cómo decide exactamente la legislación nacional?¿La decisión de la IA causó daño a alguien o no? Por otro lado, la prohibición del uso de la IA para la vigilancia masiva es “demasiado indulgente”. Añade que la prohibición de los sistemas de crédito social basados en la "fiabilidad" también está definida de manera demasiado estricta. Los sistemas de crédito social no necesitan evaluar si alguien es digno de confianza para decidir cuestiones como su elegibilidad para recibir beneficios.
En Twitter Omer Tene, vicepresidenteLa organización sin fines de lucro IAPP (Asociación Internacional de Profesionales de la Privacidad), comentó que el fallo “representa un enfoque típico de Bruselas hacia las nuevas tecnologías y la innovación. En caso de duda, ajuste." Según Tene, si se adoptan las propuestas, se creará un “vasto ecosistema regulatorio” que atraerá no solo a los creadores de sistemas de IA, sino también a importadores, distribuidores y usuarios, y creará una serie de consejos reguladores, tanto nacionales como; en toda la UE.
Sin embargo, este ecosistema no será el primero.Es el momento de limitar las “grandes tecnologías”, dice Michael Veale, profesor de derechos y regulaciones digitales en el University College de Londres. "Su atención se centra principalmente en proveedores de herramientas comerciales y de toma de decisiones menos conocidos cuyo trabajo a menudo elude el escrutinio de los reguladores o de sus propios clientes".
Se desconoce qué cambios se pudieron haber realizado.en este borrador de propuesta mientras los responsables políticos de la UE se preparan para un anuncio oficial el 21 de abril. Sin embargo, una vez que se proponga una regulación, estará sujeta a cambios según los comentarios de los eurodiputados y deberá implementarse por separado en cada estado nacional.
¿Por qué se necesita una nueva ley?
Desde hace algún tiempo ya se está debatiendo un plan para regular la IA.tiempo. En febrero de 2020, la Comisión Europea publicó un libro blanco en el que describía planes para regular las aplicaciones de inteligencia artificial de “alto riesgo”. Aunque en el nuevo borrador no queda del todo claro cómo se determinará exactamente el "alto riesgo".
Según el borrador, el objetivo principal.El objetivo de la Comisión aquí es aumentar la confianza del público en la IA mediante controles y equilibrios basados en los valores de la UE. El objetivo es estimular la adopción de la llamada IA “confiable” y “centrada en el ser humano”. Esto se aplica no sólo a las aplicaciones de “alto riesgo”, sino a todos los que interactúan con una persona.
¿Qué pasará si se aprueba la ley?
Si se acepta el proyecto de propuesta,dará lugar a que la UE adopte una posición fuerte sobre determinadas aplicaciones de IA. Algunos usos estarán sujetos a controles similares a la regulación de privacidad digital de la UE según la legislación GDPR.
Los requisitos de la UE incluyen garantizarseguridad y garantizar la precisión constante de la IA, con la condición de informar “cualquier incidente grave o cualquier falla en el funcionamiento del sistema de IA que constituya un incumplimiento de las obligaciones a la autoridad supervisora a más tardar el 15 ;días después tomó conocimiento de ello.
Es de destacar que la comisión evitópropuestas para prohibir el uso del reconocimiento facial en lugares públicos. Según un borrador filtrado a principios del año pasado, ella estaba considerando la idea.
No se sabe qué cambios se podrían haber realizado enesta es una propuesta preliminar mientras los políticos de la UE se preparan para un anuncio oficial el 21 de abril. Sin embargo, una vez que se proponga el reglamento, estará sujeto a cambios después de recibir comentarios de los eurodiputados y debe implementarse por separado en cada estado nacional.
Esta no es la primera vez que Europa habla de regulación.industria de la tecnología. Por lo tanto, las autoridades de la UE quieren obligar a Google y Facebook a pagar a los editores por las noticias, y a principios de año, los políticos europeos llamaron a los jefes de los gigantes tecnológicos para discutir las leyes que limitan su monopolio. Según todas las cuentas, las leyes que se están redactando proporcionarán una penalización de ingresos del 10% para que los gigantes tecnológicos limiten su monopolio.
Lee mas
Создана первая точная карта мира. Что не так со всеми остальными?
La NASA contó cómo entregarán muestras de Marte a la Tierra
Se probó un motor para un avión orbital en Rusia
Reglamento General de Protección de Datos, GeneralEl Reglamento General de Protección de Datos (GDPR) es un reglamento de la Unión Europea a través del cual el Parlamento Europeo, el Consejo de la Unión Europea y la Comisión Europea fortalecen y unifican la protección de los datos personales de todos los individuos de la Unión Europea (UE). El reglamento también tiene como objetivo exportar datos desde la UE.
El RGPD tiene como objetivo principal garantizar quedar a los ciudadanos control sobre sus propios datos personales y simplificar el marco regulatorio para las relaciones económicas internacionales unificando la regulación dentro de la UE.
El sistema de crédito social ("el socialrating ”,“ sistema de confianza social ”): un sistema para evaluar a ciudadanos u organizaciones individuales mediante varios parámetros, cuyos valores se obtienen utilizando herramientas de observación masiva y tecnología de análisis de big data. Fue implementado por primera vez por el gobierno chino en la década de 2010.