훈련받지 않은 참가자는 절반 미만의 경우에서 실제 이미지와 가짜 이미지를 구별할 수 있습니다.
연구를 수행하기 위해 저자는 400명을 선택했습니다.실제 사진과 신경망을 통해 생성된 400개의 이미지. 각 세트에서 여성과 남성은 동일한 비율로 대표되었으며 다양한 인종과 연령을 대표했습니다.
실험 참가자는 128명에게 무작위로 표시되었습니다.사진을 선택하고 진짜인지 가짜인지 확인하도록 요청했습니다. 평균적으로 피험자들은 48.2%의 경우에 정답을 맞췄습니다. 동시에 백인 남성의 사진 분류 오류의 수는 여성이나 다른 인종의 대표 사진 분석보다 많았습니다. 저자에 따르면 그 이유는 AI 머신 러닝에 사용할 수 있는 백인 남성의 이미지가 더 많아지고, 이는 가짜의 품질이 높아짐을 의미합니다.
두 번째 연구 참가자 그룹컴퓨터 생성 얼굴 인식에 대한 사전 훈련. 그들은 가짜를 나타낼 수 있는 이미지 처리의 흔적의 예를 보여주었습니다. 또한 각 응답 후에 참가자에게 이미지를 올바르게 분류했는지 여부를 알렸습니다. 이 경우 가짜 사진의 인식 품질이 향상되었지만 최대 59%에 그쳤습니다.
연구자들은 또한 별도의 그룹에게 물었습니다.223명의 참가자는 이미지 속 사람들이 얼마나 신뢰할 수 있다고 생각하는지 1~7점 척도로 평가했습니다. 실제 사람에 대한 평균 신뢰도는 4.48, 가짜 사람에 대한 평균 신뢰도는 4.82였습니다. 연구원들에 따르면 8%의 차이는 오차 한계를 초과하며 상당한 차이입니다. 흥미롭게도 가장 신뢰받는 사람 4명 중 3명은 가짜였고, 신뢰도가 가장 낮은 사람 4명은 모두 진짜였습니다.
"우리는 인위적으로 만들어진 얼굴을실제보다 더 큰 자신감을 불러일으킬 수 있다고 이 연구의 저자는 말합니다. "이는 합성된 얼굴이 이전에 입증된 바와 같이 더 신뢰할 수 있는 것으로 간주되는 평균 얼굴과 더 유사하기 때문일 가능성이 가장 높습니다."
사운드, 이미지, 비디오 합성AI를 활용해 헐리우드 수준의 특수효과를 널리 보급하게 됐다. 합성된 연설, 가상의 이미지, 한 사람을 다른 사람으로 바꾸는 것은 더 이상 단순한 오락이 아니라 사기와 속임수의 기회이기도 합니다. 과학자들은 “이러한 고품질 가짜 이미지에 쉽게 접근하면 소셜 네트워크에서 더 설득력 있는 가짜 프로필, 사기, 허위 정보 캠페인 등 다양한 문제가 발생하여 개인과 사회 전체에 심각한 결과를 초래할 것입니다.”라고 말했습니다. 메모.
더 읽어보기 :
과학자들은 지구상에서 가장 건강한 사람들을 찾았습니다: 독특한 라이프스타일에 관한 모든 것
무료 VPN의 위험성. 다운로드할 수 없는 이유와 자신을 보호하는 방법은 무엇입니까?
물리학자들은 실험실에서 "터미네이터-2"에서 T-1000의 능력을 재현했습니다.