Como é que tudo começou?
A União Europeia está a discutir a possibilidade de proibir a utilização de substâncias artificiais
Como parte do projeto de resolução“Numa abordagem europeia à inteligência artificial”, o executivo da UE propõe proibir as tecnologias de IA que são utilizadas para “vigilância em massa aplicada de forma generalizada a todos os indivíduos, sem qualquer distinção”. O texto do projeto de lei descreve detalhadamente métodos de vigilância como “monitoramento e rastreamento de indivíduos no ambiente digital ou físico, bem como agregação e análise automática de dados pessoais de diversas fontes”, relata a agência de notícias REGNUM.
A Comissão Europeia pretende declararda lei de sistemas de inteligência artificial (IA) usados para "vigilância em massa de pessoas" como parte das novas proibições que serão introduzidas na próxima semana.
Além disso, a Comissão Europeia prevê proibiçõespara usar aplicativos de IA que violam os valores da UE ou violam os direitos humanos. Isso inclui sistemas que manipulam o comportamento humano e visam populações vulneráveis.
De acordo com o projeto, os membros da UE, por exemplo, terão quecriar comitês de avaliação para testar e validar sistemas de IA de alto risco. E empresas que desenvolvem ou vendem IA que estão sujeitas a restrições, incluindo aquelas de outros países do mundo, podem ser multadas em até 4% de sua receita global.
O que é inteligência artificial de “alto risco”?
De acordo com as regras planejadas, aqueles quepretende aplicar inteligência artificial, terá que determinar se um caso de uso específico é de "alto risco" e, portanto, se eles precisam conduzir uma avaliação de pré-conformidade obrigatória ou não.
Exemplos de IA de alto risco:
- sistemas que priorizam o envio de serviços de emergência,
- sistemas que determinam o acesso ou nomeação de pessoas para instituições educacionais,
- algoritmos de recrutamento,
- aqueles que avaliam a qualidade de crédito,
- para realizar avaliações de risco individuais,
- algoritmos para prever crimes.
Qual é a essência do projeto de lei de controle de IA?
Explicamos o que a nova lei oferece.
Coleta de dados sobre cidadãos que utilizam sistemasvigilância, monitoramento de redes sociais, informações bancárias e outras fontes - “a vigilância indiscriminada de indivíduos deve ser proibida se for aplicada de forma generalizada a todos os indivíduos sem distinção”. Por outras palavras, a vigilância “seletiva”, se um indivíduo tiver algo de interesse para as autoridades competentes, poderá muito bem ser permitida, mas a vigilância total “por precaução” será provavelmente proibida na Europa.
O projeto também prevê a proibição deintrodução de uma classificação social ou sistema de crédito social, quando um conjunto de big data sobre conexões, comportamento, compras e outras informações é acumulado sobre os cidadãos, e um retrato social do cidadão é criado com base na totalidade dos dados. IA ou redes neurais também podem ajudar a descobrir isso. Eles adoram isto no sector bancário e a Europa não é excepção a este respeito. Mas a China foi mais longe na criação de um sistema de crédito social, onde às pessoas com classificações baixas são negados bilhetes para transporte intermunicipal, residência em determinadas áreas e são introduzidas uma série de outras restrições. Esses sistemas de IA têm “grandes chances de influenciar a subsistência de alguém”, observa o jornal.
Quanto à avaliação social no projeto de leidisse: "Os sistemas de IA usados para avaliar indicadores sociais de uso geral devem ser banidos." A votação deste projeto está prevista para 21 de abril. Até este ponto, os representantes da Comissão Europeia recusam-se a comentar o documento não aprovado.
O projeto também prevê:
- notificações sobre interação humana com IA, a menos que seja “óbvio pelas circunstâncias e contexto de uso”,
- avaliação de sistemas de alto risco antes de seremcomissionamento, incluindo a garantia de que esses sistemas sejam compreensíveis para os supervisores humanos e que sejam treinados em conjuntos de dados de “alta qualidade” testados quanto a distorções,
- criação de um “Conselho Europeu de Inteligência Artificial”, composto por representantes de todos os países da UE.
O que os especialistas pensam sobre o controle de IA?
Talvez a seção mais importante do documentoé um artigo que proíbe certos usos de IA, incluindo vigilância em massa e classificações de crédito social. No entanto, as reações ao projeto de grupos de direitos digitais e especialistas em políticas dizem que esta seção precisa ser melhorada.
“Descrições de sistemas artificiais proibidosas informações são vagas e contêm linguagem pouco clara que pode criar lacunas graves”, explica Daniel Leufer, analista de política europeia da Access Now, em entrevista ao The Verge. Esta seção, em suas palavras, está “longe do ideal”.
Como exatamente a legislação nacional decideA decisão da IA causou danos a alguém ou não? Por outro lado, a proibição do uso de IA para vigilância em massa é “muito branda”. Ele acrescenta que a proibição dos sistemas de crédito social baseados na “fiabilidade” também é definida de forma demasiado restrita. Os sistemas de crédito social não precisam de avaliar se alguém é confiável para decidir questões como a sua elegibilidade para benefícios.
No Twitter, Omer Tene, vice-presidentea organização sem fins lucrativos IAPP (Associação Internacional de Profissionais de Privacidade), comentou que a decisão “representa uma abordagem típica de Bruxelas para novas tecnologias e inovação. Na dúvida, ajuste." Segundo Tene, se as propostas forem adotadas, criar-se-á um “vasto ecossistema regulatório” que atrairá não só criadores de sistemas de IA, mas também importadores, distribuidores e utilizadores, e criará uma série de conselhos reguladores, tanto nacionais como; em toda a UE.
No entanto, este ecossistema não será o primeiroÉ a vez de limitar a “Big Tech”, diz Michael Veale, professor de direitos e regulamentações digitais na University College London. “Seu foco está principalmente em fornecedores menos conhecidos de ferramentas de negócios e de tomada de decisão, cujo trabalho muitas vezes escapa ao escrutínio dos reguladores ou de seus próprios clientes.”
Não se sabe quais mudanças podem ter sido feitasneste projeto de proposta enquanto os formuladores de políticas da UE se preparam para um anúncio oficial em 21 de abril. No entanto, uma vez proposto um regulamento, este estará sujeito a alterações na sequência do feedback dos deputados europeus e terá de ser implementado separadamente em cada Estado-nação.
Por que uma nova lei é necessária?
Um plano para regular a IA já vem sendo discutido há algum tempo.tempo. Em Fevereiro de 2020, a Comissão Europeia publicou um livro branco descrevendo planos para regular aplicações de inteligência artificial de “alto risco”. Embora não esteja totalmente claro no novo rascunho como exatamente o “alto risco” será determinado.
De acordo com o projecto de projecto, o objectivo principalO objetivo da Comissão neste caso é aumentar a confiança do público na IA através de controlos e equilíbrios baseados nos valores da UE. O objetivo é estimular a adoção da chamada IA “confiável” e “centrada no ser humano”. Isto se aplica não apenas a aplicativos de “alto risco”, mas a todos que interagem com uma pessoa.
O que acontecerá se a lei for aprovada?
Se o projecto de proposta for aceite, seráresultará na tomada de uma posição forte pela UE em determinadas aplicações de IA. Algumas utilizações estarão sujeitas a controlos semelhantes aos da regulamentação de privacidade digital da UE ao abrigo da legislação GDPR.
Os requisitos da UE incluem garantirsegurança e garantir a precisão consistente da IA - com a condição de relatar "quaisquer incidentes graves ou qualquer falha na operação do sistema de IA que constitua uma violação das obrigações à autoridade supervisora, o mais tardar em 15" ;dias depois de tomar conhecimento disso.
Vale ressaltar que a comissão evitoupropostas para proibir o uso de reconhecimento facial em locais públicos. De acordo com um rascunho que vazou no início do ano passado, ela estava considerando a ideia.
Não se sabe quais mudanças podem ter sido feitas noesta é uma proposta preliminar enquanto os políticos da UE se preparam para o anúncio oficial em 21 de abril. No entanto, uma vez que o regulamento seja proposto, ele estará sujeito a alterações após receber feedback dos deputados e deve ser implementado separadamente em cada estado-nação.
Esta não é a primeira vez que a Europa fala em regulamentaçãoindústria de tecnologia. Assim, as autoridades da UE querem forçar o Google e o Facebook a pagar às editoras por notícias e, no início do ano, os políticos europeus convocaram os chefes dos gigantes da tecnologia para discutir as leis que limitam seu monopólio. Ao que tudo indica, as leis que estão sendo elaboradas prevêem uma penalidade de 10% na receita para os gigantes da tecnologia, para limitar seu monopólio.
Consulte Mais informação
O primeiro mapa preciso do mundo foi criado. O que há de errado com todo mundo?
A NASA disse como vai entregar amostras de Marte à Terra
Um motor para uma aeronave orbital foi testado na Rússia
Regulamento Geral de Proteção de Dados, GeralO Regulamento Geral de Proteção de Dados (GDPR) é um regulamento da União Europeia através do qual o Parlamento Europeu, o Conselho da União Europeia e a Comissão Europeia fortalecem e unificam a proteção dos dados pessoais de todos os indivíduos na União Europeia (UE). O regulamento também visa exportar dados da UE.
O GDPR visa principalmente garantir quedar aos cidadãos o controlo sobre os seus próprios dados pessoais e simplificar o quadro regulamentar das relações económicas internacionais, unificando a regulamentação dentro da UE.
O sistema de crédito social ("o socialrating ”,“ sistema de confiança social ”) - um sistema de avaliação de cidadãos individuais ou organizações por vários parâmetros, cujos valores são obtidos usando ferramentas de observação em massa e usando tecnologia de análise de big data. Foi implementado pela primeira vez pelo governo chinês na década de 2010.