신경망은 알고리즘이나 다른 사람을 속이기 위해 음성을 위조했습니다.
시카고 대학의 과학자들
연구원들은 다음과 같은 상황을 시뮬레이션했습니다.공격자는 공개 도메인에서 찾을 수 있는 피해자의 목소리를 녹음했으며 라이브 채팅 및 연설을 녹음할 기회도 있었습니다. 훈련 중 신경망은 음성뿐만 아니라 억양이 있는 음색도 고려했습니다.
다음으로, 저자는 이미 훈련된공개 도메인에서 찾을 수 있는 신경망. 그들은 SV2TTS와 AutoVC의 두 가지를 선택했습니다. 모델을 훈련하기 위해 저자는 VCTK, LibriSpeech 및 SpeechAccent의 세 가지 공개 데이터 세트에서 90명의 음성 녹음을 사용했습니다.
그 결과, 연구자들은 약 50%의 사례에서신경망으로 합성된 음성을 사용하여 계정에 성공적으로 로그인했습니다. 또한 알고리즘과 대화할 때 실제 목소리와 가짜 목소리를 50% 정도 구별할 수 없었다.
신경망은 얼굴 인식 시스템을 속이기 위해 화장을 적용하는 데 도움이 되었습니다.
이스라엘 대학의 연구원들의 이름을 따서 명명됨벤 구리온은 화장을 이용해 얼굴 인식 시스템을 속이는 신경망을 만들었다. 그녀는 장치가 가장 자주 읽는 외모의 특징을 결정한 다음 시스템에서 얼굴을 인식할 수 없게 만드는 데 도움이 되는 특수 메이크업을 선택합니다.
작동 중에 알고리즘이 먼저 처리합니다.그 사람의 사진과 같은 성별의 다른 사람들의 사진. 다음으로, 수정해야 할 특징이 있는 주요 영역을 보여주는 히트 맵이 생성됩니다. 그 후, 시스템은 화장을 한 새로운 얼굴의 이미지를 생성하고 반응이 멈출 때까지 일반적인 얼굴 인식 시스템과 비교하여 테스트합니다.
최적의 메이크업 옵션이 얻어지면 적용할 수 있습니다. 저자는 얼굴 인식 시스템의 정확도가 47.5%에서 1.2%로 감소했다고 언급했습니다.
신경망은 식별 시스템을 속이기 위해 보편적인 얼굴을 만들었습니다.
이스라엘 연구원들이 신경망을 만들었습니다.인식 시스템을 위해 수많은 성격을 시뮬레이션할 수 있는 얼굴 이미지를 생성합니다. 개발자에 따르면, 그들의 알고리즘은 "보편적인" 얼굴을 만듭니다. 예를 들어, 이러한 이미지 9개는 공개 데이터베이스에 있는 최소 40%의 인물 사진을 대체할 수 있습니다.
결과적으로 시스템은 40-60%의 경우에서 양성으로 성공적으로 식별된 얼굴을 생성했습니다. 그들은 이것을 위해 9개의 생성된 사진만을 사용했습니다.
신경망은 눈을 속이고 완벽한 위장을 만듭니다.
브리스톨 대학의 과학자들이 만들었습니다.환경을 분석하여 사물에 가장 적합한 색상을 선택하는 신경망입니다. 그들은 자신들의 알고리즘이 진화생물학자들이 다양한 생물종의 색깔이 어떻게 변했는지, 그리고 그것이 무엇에 의존하는지 이해하는 데 도움이 될 것이라고 지적했습니다.
연구원들은 자신의 알고리즘을 만들기 위해일련의 유전 알고리즘과 딥 러닝을 사용했습니다. 그들은 단지 몇 가지 색상과 인간 관찰자의 소량 데이터로 수백만 개의 패턴으로 끝났습니다.
이 방법은 자원봉사자를 대상으로 테스트되었습니다.다양한 배경의 물체가 있는 사진을 보고 물체를 보자마자 버튼을 누르는 것이었습니다. 매번 알고리즘은 색상과 패턴 세트를 가장 보기 어렵거나 보기 쉬운 색상과 패턴으로 줄였습니다. 위장용 색상을 찾고 싶은지 눈에 띄기를 원하는지 여부에 따라 다릅니다.
다른 신경망을 속이는 신경망
과학자들은 다음을 시도하는 신경망을 만들었습니다.가짜 분류기에 맞서 싸우세요. 새로운 알고리즘은 이미지나 비디오에 특별한 노이즈를 삽입하여 다른 분류자가 콘텐츠를 편집되지 않은 원본으로 인식하도록 할 수 있습니다.
우리는 딥페이크에 대해 이야기하고 있습니다. 이것은 다음과 같은 내용입니다.사람이 한 번도 하지 않았거나 한 번도 말하지 않은 것에 대해 타협하기 위해 얼굴이나 표정을 특별히 변경한 것입니다(예: 유명한 스타, 배우 또는 정치인). 당연히 딥페이크 이후에는 동영상이나 사진이 편집되었는지 여부를 인식하는 신경망이 등장했습니다.
이 개발의 다음 단계에서대결에서 딥페이크 인식 알고리즘을 속이는 신경망이 등장했다. 사기꾼 신경망은 아직 알려지지 않은 딥페이크 분류기를 포함하여 모든 것에 잠재적으로 적응할 수 있습니다. 결과적으로 이러한 알고리즘은 비디오 결과가 압축되지 않은 경우 99%의 경우 분류자를 속이는 데 성공합니다. 압축의 경우 성공률이 60~90%로 떨어집니다.
더 읽어보기 :
AI는 과학자들이 50년 동안 싸워온 생물학적 문제를 해결했습니다.
작업에 30조 년이 아닌 밀리초: 중국이 새로운 양자 컴퓨터를 도입했습니다.
과학자들은 COVID-19에 감염될 수 없는 사람들을 찾고 있습니다. 그들의 데이터를 바탕으로 약을 만들 것입니다.