이미지 인식을위한 최신 AI는 서명으로 쉽게 속일 수 있습니다.

OpenAI 연구원들은 그들의 최첨단 컴퓨터 비전 시스템이 쉽게 속일 수 있다는 것을 발견했습니다.

간단한 서명. 그 위에 물체에 라벨을 붙이면 인공지능(AI) 모델이 이를 잘못 인식하게 됩니다.

OpenAI의 연구원들은이를 타이포그래피 공격이라고 부릅니다. 그들은 텍스트를 안정적으로 인식하는 모델의 기능을 사용합니다. 손으로 쓴 텍스트가있는 사진조차도 AI를 속일 수 있습니다.