Como é que tudo começou?
Em setembro de 2021, foi divulgado um novo relatório da ONU. Especialistas estudaram como países e empresas
Ontem, o chefe de direitos humanos da ONU, MichelBachelet pediu uma moratória sobre o uso de tecnologias de inteligência artificial que representam uma grave ameaça aos direitos humanos. Incluindo sistemas para rastrear pessoas rastreando pessoas em locais públicos. Ela observou que os países deveriam banir imediatamente as aplicações de IA que não cumpram as leis internacionais de direitos humanos.
Onde o uso de IA é inaceitável?
Aplicativos a serem banidosIsso inclui sistemas de "classificação social" do governo que avaliam as pessoas por seu comportamento e certas ferramentas baseadas em IA que dividem as pessoas em grupos, como etnia ou gênero.
Tecnologias baseadas em artificialA inteligência “pode ser uma força para o bem” e também pode levar a “consequências negativas, até mesmo catastróficas”, se usada sem considerar o impacto que tem nos direitos humanos, disse Bachelet num comunicado.
“Não se trata da falta de recursos artificiaisinteligência”, explicou Peggy Hicks, diretora de interação temática do Centro de Direitos Humanos da ONU, aos repórteres. Ela dirigiu-se aos meios de comunicação social durante a apresentação do relatório em Genebra. “A questão é que se a IA for utilizada nestas áreas funcionais muito importantes relacionadas com os direitos humanos, então deve ser feita correctamente. E nós simplesmente não criamos a estrutura que garante isso.”
Bachelet não pediu uma proibição totaltecnologia de reconhecimento facial, mas observou que os governos deveriam parar de escanear o comportamento das pessoas em tempo real. Por exemplo, para avaliar o desempenho do pessoal. Você precisa garantir que a tecnologia seja precisa e que a IA seja imparcial e atenda aos padrões de privacidade e proteção de dados.
O relatório também levanta preocupações sobreinstrumentos que tentam determinar o estado emocional e mental das pessoas analisando suas expressões faciais ou movimentos corporais. Especialistas enfatizam que tais tecnologias estão sujeitas a vieses, má interpretação e falta de base científica.
“O uso de sistemas pelas autoridades estaduaisReconhecer emoções, por exemplo, para destacar indivíduos para detenção ou prisão policial, ou para avaliar a veracidade das declarações durante os interrogatórios, corre o risco de minar os direitos humanos, como privacidade, liberdade e justiça do judiciário ”, disse o relatório.
Onde está o problema de usar IA especialmente agudo?
Embora os nomes de países específicos no relatórionão são mencionados, vale a pena mencionar a China. Recordemos que em Maio as autoridades lançaram um programa para testar câmaras de reconhecimento de emoções em uigures na região ocidental de Xinjiang. E o reconhecimento dos próprios uigures. Recordemos que em 2018 a Human Rights Watch publicou um relatório sobre a perseguição à população muçulmana na região chinesa de Xinjiang. Segundo a organização, nos últimos anos, os uigures foram detidos em massa e muitas vezes sem motivo, sendo colocados em prisões e campos educacionais; Milhões de pessoas estão sob constante vigilância por vídeo e o seu estatuto social e o seu destino dependem dos pontos acumulados no sistema de “crédito social”.
No entanto, os principais autores do relatório afirmaram que nomear países específicos não estava sob a sua autoridade e poderia até ser contraproducente.
“No contexto chinês, comoe noutros contextos, estamos preocupados com a transparência e as aplicações discriminatórias que visam comunidades específicas”, explica a porta-voz da ONU, Peggy Hicks.
Ela citou vários processos judiciais nos Estados Unidos e na Austrália em que a inteligência artificial foi mal utilizada.
Um dos precedentes mais ruidosos dos Estados Unidos -situação com a Amazon. Esta empresa é um dos centros de desenvolvimento no campo da inteligência artificial. Em 2017, a empresa fechou um projeto piloto de recrutamento baseado em IA que estava em execução há quase três anos. Um dos principais problemas era a discriminação de gênero dos candidatos - o algoritmo subestimou as avaliações das mulheres candidatas.
Enquanto isso, na Austrália, o tribunal criou um inovadorprecedente. Os sistemas de inteligência artificial agora podem ser legalmente reconhecidos como inventores em pedidos de patentes. No entanto, nem todos concordaram com esta decisão.
Qual é o resultado final?
As recomendações do relatório refletem as opiniões de muitoslíderes políticos nas democracias ocidentais. É importante não apenas aproveitar o potencial econômico e social da IA, mas também abordar as crescentes preocupações sobre a confiabilidade das ferramentas que rastreiam e traçam o perfil das pessoas.
Secretária de Comércio dos EUA, Gina Raimondo, duranteuma conferência virtual em junho reforçou as preocupações dos funcionários da ONU. “É assustador pensar em como isso pode ser usado para reforçar ainda mais as tendências discriminatórias”, disse ela. “Precisamos ter certeza de que não permitiremos isso”.
Assim, os reguladores europeus já estãotomaram medidas para conter os aplicativos de IA mais arriscados. As regras propostas, estabelecidas por funcionários da União Europeia neste ano, vão proibir certos usos de IA, como escaneamento facial em tempo real, e controlar rigidamente outros usos que possam ameaçar a segurança ou os direitos humanos das pessoas.
Ler Avançar
Um barco único se transforma em um submarino em dois minutos e é invisível para o inimigo
Os físicos resfriaram átomos à temperatura mais baixa do mundo
O modelo mais detalhado do Universo foi publicado online. Qualquer um pode estudar isso