AI 시스템의 편견의 원인은 다양하지만 주요 원인 중 하나는 고정관념입니다.
그녀의 문제를 해결하기 위해원래 Princeton Visual AI Lab의 연구원은 시각적 데이터 세트에서 잠재적 인 손상을 자동으로 감지하는 오픈 소스 도구를 개발했습니다. 이 도구를 사용하면 데이터 세트 작성자와 사용자가 이미지 컬렉션을 사용하여 컴퓨터 비전 모델을 학습시키기 전에 과소 표현 또는 고정 관념 이미지 문제를 수정할 수 있습니다. 관련 연구에서 Visual AI Lab의 구성원은 컴퓨터 비전 모델 자체의 기존 편향 방지 기술을 비교하여 편향 감소에 대한 새롭고 효과적인 접근 방식을 제안했습니다.
REVISE라는 첫 번째 도구는 다음을 사용합니다.개체, 성별, 지역이라는 세 가지 측면에서 잠재적인 편견이나 과소표현 문제에 대한 데이터 세트를 검사하는 통계적 방법입니다.
REVISE는 데이터 세트의 내용을 평가하고,개체 수, 개체와 사람의 결합 된 존재, 이미지의 원산지와 같은 기존 이미지 주석 및 측정을 사용합니다. 이러한 측정 중 도구는 중앙값 분포와 다른 패턴을 식별합니다.
한 데이터 세트에서 REVISE는 잠재적 인사람 (빨간색 직사각형)과 악기 기관 (파란색 직사각형)을 묘사 한 이미지의 성별 편견. 사람과 기관 사이의 추정 된 3 차원 거리 분포를 분석 한 결과 남성은 일반적으로 실제로 악기를 연주하는 것으로 묘사되는 반면 여성은 악기와 같은 공간에있는 경우가 많습니다. 크레딧 : Princeton Visual AI Lab.
예를 들어, 테스트된 세트 중 하나에서REVISE 데이터에 따르면 사람과 꽃과 관련된 이미지는 남성과 여성 간에 서로 달랐습니다. 남성은 행사나 회의에서 꽃을 들고 나타날 가능성이 높았고, 여성은 무대 장치나 그림에 나타날 가능성이 더 높았습니다.
도구가 이러한 종류의 유형을 감지하면Visual AI Lab의 수석 조사관이자 컴퓨터 과학 조교수인 Olga Rusakovskaya는 "이것이 완전히 무해한 사실인지 아니면 더 중요한 일이 일어나고 있는지에 대한 의문이 제기되며 자동화하기가 매우 어렵습니다."라고 설명합니다.
“컴퓨터에서 데이터 세트를 수집하는 관행최근까지 과학은 그렇게 철저히 연구되지 않았습니다.”라고 컴퓨터 과학 대학원생 인 Angelina Wang의 공동 저자는 결론을 내립니다. 그녀는 이미지가 대부분“인터넷에서 가져온 것이며, 사람들은 자신의 이미지가 [데이터 세트에서] 사용되고 있다는 사실을 항상 이해하지 못합니다. 더 다양한 그룹의 사람들로부터 이미지를 수집하고 정중하게해야합니다. "
또한 읽어보십시오 :
지구상에 열핵 원자로를 만드는 것이 가능합니다. 결과는 무엇입니까?
종말의 빙하는 과학자들이 생각했던 것보다 더 위험한 것으로 밝혀졌습니다. 우리는 중요한 것을 말합니다
질병의 3 일차에, 대부분의 COVID-19 환자는 후각을 잃고 종종 콧물로 고통받습니다.