Rede neural falsificou a fala para enganar algoritmos ou outras pessoas
Cientistas da Universidade de Chicago
Os pesquisadores representaram uma situação ondeo atacante possuía uma gravação da voz da vítima, que pode ser encontrada em domínio público, bem como a capacidade de se comunicar ao vivo e gravar a fala. Nota-se que durante o treinamento a rede neural levou em consideração não só a voz, mas também o timbre com a entonação.
Além disso, os autores usaram o já treinadoredes neurais que podem ser encontradas no domínio público. Eles escolheram dois: SV2TTS e AutoVC. Para treinar os modelos, os autores usaram gravações de fala de 90 pessoas de três conjuntos de dados públicos: VCTK, LibriSpeech e SpeechAccent.
Como resultado, os pesquisadores em aproximadamente 50% dos casoslogado com sucesso em sua conta usando uma voz sintetizada por uma rede neural. Além disso, ao falar com o algoritmo, uma pessoa não conseguia distinguir uma voz real de uma falsa em 50%.
A rede neural ajudou a colocar maquiagem para enganar o sistema de reconhecimento facial
Pesquisadores israelenses da Universidade que leva seu nomeBen-Gurion criou uma rede neural que engana sistemas de reconhecimento facial usando maquiagem. Ela determina as características da aparência que o dispositivo lê com mais frequência e, em seguida, seleciona uma maquiagem especial que ajudará a tornar o rosto irreconhecível para o sistema.
Durante a operação, o algoritmo primeiro processafotos dessa pessoa e depois fotos de outras pessoas do mesmo sexo. A seguir, é criado um mapa de calor que mostra as principais áreas onde estão localizadas as características distintivas que precisam ser corrigidas. Depois disso, o sistema cria uma imagem de um novo rosto maquiado e testa-o em um sistema típico de reconhecimento facial até parar de responder a ele.
Quando a maquiagem ideal é obtida, ela pode ser aplicada. Os autores observam que a precisão do sistema de reconhecimento de rosto diminui de 47,5% para 1,2%.
A rede neural fez uma cara universal para enganar o sistema de identificação
Pesquisadores de Israel criaram uma rede neuralque gera imagens de rostos capazes de simular um grande número de personalidades para sistemas de reconhecimento. Segundo os desenvolvedores, seu algoritmo faz rostos “universais”. Por exemplo, nove dessas imagens podem substituir fotos de pelo menos 40% das pessoas do banco de dados aberto.
Como resultado, o sistema gerou faces que foram identificadas com sucesso como positivas em 40-60% dos casos. Eles usaram um total de nove fotos geradas para isso.
A rede neural engana os olhos, criando a camuflagem perfeita
Cientistas da Universidade de Bristol fizeramuma rede neural que analisa o ambiente e seleciona a cor ideal para um objeto. Eles observaram que seu algoritmo ajudará os biólogos evolucionistas a entender como a coloração de várias espécies vivas mudou, bem como de que dependia.
Para criar seu próprio algoritmo, os pesquisadoresusou um conjunto de algoritmos genéticos e aprendizagem profunda. Eles acabaram com milhões de modelos com apenas algumas cores e pouca contribuição de observadores humanos.
O método foi testado em voluntários, eles deveriamdeveriam olhar fotos com objetos em fundos diferentes e apertar um botão assim que vissem o objeto. A cada vez, o algoritmo reduzia o conjunto de cores e padrões àqueles que eram mais difíceis ou mais fáceis de ver. Dependendo se queremos encontrar cores para camuflar ou para sermos notados.
Uma rede neural que engana outras redes neurais
Os cientistas criaram uma rede neural que tentalutar contra classificadores falsos. O novo algoritmo pode inserir ruído especial em uma imagem ou vídeo que faz com que outros classificadores reconheçam o conteúdo como original e não editado.
Estamos falando de deepfakes - este é o conteúdo no qualuma pessoa muda deliberadamente seu rosto ou expressões faciais, por exemplo, para uma estrela famosa, ator ou político, a fim de comprometer uma pessoa em algo que ela nunca fez ou disse. Naturalmente, após deepfakes, surgiram redes neurais que reconhecem se um vídeo ou uma foto foi editada.
No próximo estágio de desenvolvimento desteconfrontação, surgiram redes neurais que enganam os algoritmos de reconhecimento de deepfakes. A rede neural enganosa pode se adaptar a qualquer classificadores deepfake, incluindo aqueles ainda desconhecidos. Como resultado, este algoritmo consegue enganar os classificadores em 99% dos casos, desde que o resultado do vídeo não seja comprimido. Em caso de compressão, a taxa de sucesso cai para 60-90%.
Consulte Mais informação:
A IA resolveu um problema biológico contra o qual os cientistas vêm lutando há 50 anos
Um milissegundo em vez de 30 trilhões de anos para uma tarefa: a China introduziu um novo computador quântico
Os cientistas procuram pessoas que não podem ser infectadas com COVID-19. Com base em seus dados, eles farão um medicamento