AI tentou prever o criminoso pela face
Em junho de 2020, apareceu um estudo polêmico
Em resposta à publicação apareceuuma carta aberta à editora Nature, assinada por mais de 2.000 pesquisadores, cientistas e estudantes de IA. Eles instaram a revista científica a não publicar o estudo, argumentando que “Exemplos recentes de preconceito algorítmico baseado em raça, classe e gênero revelaram a tendência estrutural dos sistemas de aprendizado de máquina para reforçar formas históricas de discriminação e renovaram o interesse na ética da tecnologia e seu papel na sociedade”.
Na carta, os especialistas levantaram duas questões importantes.Os cientistas nos pediram para pensar sobre quem será afetado negativamente pela integração do aprendizado de máquina nas instituições e processos existentes. E também, como a publicação deste trabalho irá legitimar a discriminação contra grupos vulneráveis? ”.
Em resposta, a editora da Nature afirmou que não iriapublicar o estudo em um jornal. A Universidade de Harrisburg removeu o comunicado à imprensa que descrevia os detalhes do estudo e emitiu um comunicado. Nele, garantiram ao público que “o corpo docente está atualizando o documento para responder às preocupações”.
AI confundiu a bola de futebol e a careca do árbitro
Em outubro de 2020, Scottish Football ClubInverness Caledonian Thistle FC anunciou que seus jogos caseiros serão transmitidos ao vivo graças ao recém-instalado sistema de câmera Pixellot alimentado por AI. Infelizmente, em suas tentativas de seguir o jogo no Caledonian Stadium, a tecnologia de rastreamento de bola AI confundiu repetidamente a bola com a careca do árbitro, especialmente quando ela estava obscurecida por jogadores ou sombras. Apesar de ser uma história engraçada, a equipa e os adeptos que assistiram ao jogo em casa ficaram descontentes.
Introdução de câmeras de rastreamento de bola artificialA inteligência promete tornar a transmissão ao vivo econômica para instalações e times esportivos (sem necessidade de pagar operadoras). Mas essas falhas podem, ao contrário, alienar os espectadores. Pixellot diz que cria mais de 90.000 horas de conteúdo ao vivo todos os meses usando seu sistema de câmera. Eles estão confiantes de que ajustar o algoritmo para usar mais dados consertará o fiasco do rastreamento de careca.
Chatbot aconselhou o paciente a se matar
Em 2020, um chatbot sugeriu que uma pessoa matasseeu mesmo. Um bot baseado em GPT-3 foi criado para reduzir a carga sobre os médicos. Parece que ele encontrou uma maneira incomum de “ajudar” os médicos, aconselhando um paciente falso a se matar, relata o The Register. Um participante do experimento dirigiu-se ao bot assistente: “Me sinto muito mal, devo me matar?” A IA deu uma resposta simples: “Acho que vale a pena”.
Embora este seja apenas um de um conjunto de cenáriossimulações projetadas para avaliar as capacidades do GPT-3, o criador do chatbot, a empresa francesa Nabla, concluiu que "a natureza errática e imprevisível das respostas do software o torna inadequado para interagir com pacientes no mundo real."
GPT-3 - terceira geração de algoritmo de processamentolinguagem natural da OpenAI. Em setembro de 2020, é o maior e mais avançado modelo de linguagem do mundo. O modelo, segundo os desenvolvedores, pode ser usado para resolver “qualquer problema em inglês”. As capacidades dos modelos GPT-3 suscitaram preocupações entre os especialistas e o público. A IA foi acusada de ter tendência a “gerar linguagem racista, sexista ou de outra forma tóxica que interfira no seu uso seguro”. Um relatório detalhado sobre o problema do GPT-3 foi publicado. cientistas da Universidade de Washington e do Allen Institute for AI.
ID facial enganado com máscara
Face ID é um sistema de reconhecimento facial biométrico usado para proteger o iPhone X. Funcionários da empresa vietnamita Bkav conseguiram enganá-lo usando uma maquete facial.
Os especialistas da Bkav imprimiram uma máscara em 3Drosto e, em seguida, anexado a ele um nariz, feito à mão de silicone, cópias impressas da boca e dos olhos e pele simulada. O custo dessa máscara era de $ 150. Os especialistas desbloquearam facilmente o iPhone X quando a máscara estava na frente dele, e não no rosto do usuário. Os especialistas da Bkav observaram que o Face ID reconhece o usuário mesmo se metade de seu rosto estiver coberto, o que significa que uma máscara pode ser criada digitalizando não todo o rosto.
Bkav pesquisa sistemas de reconhecimento facial desde 2008. A empresa acredita que ainda não existem confiáveis entre eles, e os leitores de impressão digital oferecem a maior proteção.
Direção perigosa
A proliferação de carros autônomos parece um futuro inevitável. O problema é que questões importantes ainda não foram resolvidas – por exemplo, escolhas éticas em situações perigosas.
Ao mesmo tempo, os próprios testes são realizados comconsequências trágicas. Na primavera de 2018, o Uber testou um carro autônomo baseado em um dos modelos da Volvo nas ruas de Tempe, no Arizona, EUA. Uma mulher foi atropelada e morta por um carro. O teste do piloto automático foi realizado com sensibilidade reduzida a objetos perigosos reconhecidos, a fim de evitar alarmes falsos. Quando o limite de sensibilidade diminuiu, o sistema viu objetos perigosos onde não havia nenhum.
Tesla já registrou dois incidentes rodoviários comfatalidades - em 2016 e 2018. Os motoristas que dirigiam carros com o piloto automático ligado e não controlavam a direção em terrenos difíceis ficaram feridos.
IA que via o gênero feminino como um "problema"
Amazon Corporation, juntamente com outrosGigantes da tecnologia dos EUA, é um dos centros de desenvolvimento no campo da inteligência artificial. Em 2017, a empresa fechou um projeto piloto de contratação de funcionários baseado em IA, que já vinha em andamento há cerca de três anos. Um dos principais problemas foi a discriminação de género dos candidatos - o algoritmo subestimou as candidatas do sexo feminino.
A empresa explicou isso dizendo que a IA foi treinada nos últimos dez anos de experiência na seleção de candidatos na Amazon, que eram predominantemente do sexo masculino.
Essencialmente, o sistema Amazon aprendeu quecandidatos do sexo masculino são preferidos às mulheres. Ele recusou um currículo que continha a palavra "mulher", como "capitã do clube de xadrez feminino". De acordo com fontes familiarizadas com o assunto, ele baixou a classificação de graduação de duas faculdades para mulheres. Os nomes das escolas não foram especificados.
Havia outras complicações: o algoritmo frequentemente produzia resultados quase aleatórios. Como resultado, o programa foi encerrado.
Ler Avançar
Veja um drone de ataque pesado que carrega uma tonelada de armas
Os cientistas não conseguiram capturar a raposa Rambo por três anos. Impede que animais raros sejam soltos na floresta
Uma nave espacial a vários quilômetros de distância: tudo o que se sabe sobre o novo projeto da China
Telefone de ajuda psicológica (linha de apoio): 8 (800) 333-44-34. As chamadas são gratuitas em toda a Rússia.