모든 것이 어떻게 시작 되었습니까?
2021년 9월에 새로운 UN 보고서가 발표되었습니다. 전문가들은 국가와 기업이 어떻게
어제 유엔 인권국장 미셸Bachelet은 인권에 심각한 위협이 되는 인공 지능 기술의 사용에 대한 중단을 촉구했습니다. 공공 장소에서 사람을 추적하는 사람을 스캔하는 시스템을 포함합니다. 그녀는 국가가 국제 인권법을 준수하지 않는 AI 애플리케이션을 즉시 금지해야 한다고 지적했습니다.
AI 사용이 허용되지 않는 곳은 어디입니까?
금지될 애플리케이션여기에는 행동을 기반으로 사람들을 평가하는 정부의 "사회적 평가" 시스템과 사람들을 민족이나 성별과 같은 그룹으로 나누는 특정 AI 기반 도구가 포함됩니다.
인공지능 기반 기술바첼렛은 성명을 통해 "정보는 선을 위한 힘이 될 수 있으며 인권에 어떤 영향을 미치는지 고려하지 않고 사용하면 부정적, 심지어 재앙적인 결과"를 초래할 수도 있다고 말했다.
“인공적인 것이 부족해서가 아니다.UN 인권센터의 주제별 교류 책임자인 페기 힉스(Peggy Hicks)는 기자들에게 이렇게 설명했습니다. 그녀는 제네바에서 보고서를 발표하면서 언론에 연설했습니다. “요점은 인권과 관련된 매우 중요한 기능 영역에 AI를 사용하려면 올바르게 수행되어야 한다는 것입니다. 그리고 우리는 이를 보장하는 구조를 만들지 않았을 뿐입니다."
바첼레트는 완전한 금지를 요구하지 않았다그러나 정부는 사람들의 행동을 실시간으로 스캔하는 것을 중단해야 한다고 지적했습니다. 예를 들어 직원 성과를 평가합니다. 기술이 정확하고 AI가 편견이 없으며 개인 정보 보호 및 데이터 보호 표준을 충족하는지 확인해야 합니다.
보고서는 또한 다음과 같은 우려를 제기합니다.사람의 표정이나 몸의 움직임을 분석하여 사람의 감정과 정신 상태를 파악하는 도구. 전문가들은 그러한 기술이 편견, 오해, 과학적 근거 부족의 대상이 될 수 있다고 강조합니다.
"국가 당국의 시스템 사용예를 들어 경찰의 구금이나 체포를 위해 개인을 강조하거나 심문 중 진술의 진실성을 평가하기 위해 감정을 인식하는 것은 사생활, 자유, 사법부의 공정성과 같은 인권을 훼손할 위험이 있다”고 보고서는 말했다.
AI 사용 문제가 특히 심각한 곳은 어디입니까?
보고서에는 특정 국가의 이름이 나와 있지만언급되지 않았지만 중국을 언급할 가치가 있다. 지난 5월에 당국이 신장 서부 지역의 위구르족을 대상으로 감정 인식 카메라를 테스트하는 프로그램을 시작했던 일을 떠올려 보십시오. 그리고 위구르인들에 대한 인식도요. 2018년에 휴먼라이츠워치(Human Rights Watch)가 중국 신장 자치구의 무슬림 박해에 관한 보고서를 발표했던 것을 기억해 봅시다. 조직에 따르면, 최근 몇 년 동안 위구르인들은 집단적으로, 종종 이유 없이 구금되어 감옥과 교육 수용소에 수감되었습니다. 수백만 명의 사람들이 지속적인 영상 감시를 받고 있으며, 그들의 사회적 지위와 운명은 "사회 신용" 시스템에서 적립된 점수에 따라 달라집니다.
그러나 보고서의 주요 저자들은 특정 국가의 이름을 지정하는 것은 그들의 권한 범위가 아니며 심지어 비생산적일 수도 있다고 말했습니다.
“중국의 맥락에서 어떻게그리고 다른 맥락에서 우리는 특정 커뮤니티를 대상으로 하는 투명성과 차별적인 적용에 대해 우려하고 있습니다.”라고 UN 대변인 Peggy Hicks는 설명합니다.
그녀는 인공 지능이 오용된 미국과 호주의 여러 법원 사례를 인용했습니다.
미국에서 가장 시끄러운 선례 중 하나 -아마존 상황. 이 회사는 인공 지능 분야의 개발 센터 중 하나입니다. 2017년에는 3년 가까이 진행해 온 AI 기반 채용 파일럿 프로젝트를 종료했다. 주요 문제 중 하나는 후보자의 성 차별이었습니다. 알고리즘은 여성 후보자의 평가를 과소 평가했습니다.
한편, 호주 법원은 획기적인 판결을 내렸습니다.전례. 인공 지능 시스템은 이제 특허 출원에서 발명자로 법적으로 인정될 수 있습니다. 그러나 모든 사람이 이 결정에 동의한 것은 아닙니다.
결론은 무엇입니까?
보고서의 권장 사항은 많은 사람들의 견해를 반영합니다.서구 민주주의 국가의 정치 지도자. AI의 경제적, 사회적 잠재력을 활용하는 것뿐만 아니라 사람을 추적하고 프로파일링하는 도구의 신뢰성에 대한 증가하는 우려를 해결하는 것도 중요합니다.
지나 레이몬도 미 상무장관6월의 가상 회의는 유엔 관리들의 우려를 강화했습니다. 그녀는 "차별적 경향을 더욱 강화하기 위해 어떻게 사용될 수 있는지 생각하는 것이 무섭다"며 "이를 허용하지 않도록 해야 한다"고 말했다.
따라서 유럽 규제 당국은 이미가장 위험한 AI 애플리케이션을 억제하기 위한 조치를 취했습니다. 올해 유럽연합 관리들이 발표한 제안된 규칙은 실시간 안면 스캐닝과 같은 특정 AI 사용을 금지하고 인간의 안전이나 인권을 위협할 수 있는 기타 사용을 엄격하게 통제할 것입니다.
읽다 더 나아가
독특한 보트는 2분 만에 잠수함으로 변해 적의 눈에 띄지 않습니다.
물리학자들은 원자를 세계에서 가장 낮은 온도로 냉각시켰습니다.
우주의 가장 상세한 모델이 온라인에 게시되었습니다. 누구나 공부할 수 있다