모든 것이 어떻게 시작 되었습니까?
유럽연합(EU)이 인공지능 사용을 금지하는 방안을 논의 중이다.
결의안 초안의 일부로EU 집행부는 "인공 지능에 대한 유럽의 접근 방식에 대해" "모든 개인에게 차별 없이 일반화된 방식으로 적용되는 대량 감시"에 사용되는 AI 기술을 금지할 것을 제안했습니다. 법안의 내용에는 "디지털 또는 물리적 환경에서 개인을 모니터링 및 추적하는 것뿐만 아니라 다양한 소스의 개인 데이터를 자동으로 집계 및 분석하는 것"과 같은 감시 방법이 자세히 설명되어 있다고 REGNUM 통신사는 보도했습니다.
유럽 연합 집행위원회는다음주에 도입 될 새로운 금지의 일환으로 "사람들의 대량 감시"에 사용되는 인공 지능 (AI) 시스템의 법칙.
또한 유럽 연합 집행위원회는EU 가치를 위반하거나 인권을 침해하는 AI 애플리케이션을 사용하는 행위. 여기에는 인간 행동을 조작하고 취약한 집단을 대상으로하는 시스템이 포함됩니다.
초안에 따르면 EU 회원국은 예를 들어고위험 AI 시스템을 테스트하고 검증하기위한 평가위원회를 만듭니다. 또한 세계 다른 국가의 기업을 포함하여 규제 대상인 AI를 개발하거나 판매하는 기업은 글로벌 소득의 최대 4 %까지 벌금이 부과 될 수 있습니다.
'고위험' 인공지능이란?
계획된 규칙에 따르면인공 지능을 적용하려는 경우 특정 사용 사례가 "고위험"인지 여부와 필수 사전 적합성 평가를 수행해야하는지 여부를 결정해야합니다.
고위험 AI의 예 :
- 응급 서비스 파견을 우선시하는 시스템,
- 교육 기관에 대한 사람들의 접근 또는 임명을 결정하는 시스템,
- 채용 알고리즘,
- 신용도를 평가하는 사람들,
- 개별 위험 평가를 수행하기 위해
- 범죄 예측을위한 알고리즘.
AI 통제 법안의 본질은 무엇입니까?
새로운 법안이 제공하는 내용을 설명합니다.
시스템을 사용하는 시민에 대한 데이터 수집감시, 소셜 네트워크 모니터링, 은행 정보 및 기타 출처 - “개인에 대한 무차별적인 감시가 차별 없이 모든 개인에게 일반화된 방식으로 적용된다면 금지되어야 합니다.” 즉, 개인이 관할 당국에 이해관계가 있는 경우 "선택적" 감시는 허용될 수 있지만 "만일의 경우"에 대한 전체 감시는 유럽에서 아마도 금지될 것입니다.
이 법안은 또한 금지 사항을 규정하고 있습니다.시민에 대한 연결, 행동, 구매 및 기타 정보에 대한 일련의 빅데이터가 축적되고, 데이터 전체를 기반으로 시민의 사회적 초상이 생성되는 사회 등급 또는 사회 신용 시스템을 도입합니다. AI나 신경망도 이를 파악하는 데 도움이 될 수 있습니다. 그들은 은행 부문에서 이것을 좋아하며 유럽도 예외는 아닙니다. 그러나 중국은 사회 신용 시스템을 만드는 데 가장 앞장섰습니다. 등급이 낮은 사람들에게는 도시 간 교통 티켓이 거부되고 특정 지역에 거주하는 등 여러 가지 제한 사항이 도입되었습니다. 이러한 AI 시스템은 "누군가의 생계에 영향을 미칠 가능성이 높다"고 논문은 지적합니다.
법안의 사회적 등급에 대해"일반적인 목적의 사회적 지표를 평가하는 데 사용되는 AI 시스템은 금지되어야합니다." 이 법안에 대한 투표는 4 월 21 일에 예정되어 있습니다. 이 시점까지 유럽 연합 집행위원회 대표는 승인되지 않은 문서에 대한 논평을 거부합니다.
이 프로젝트는 또한 다음을 제공합니다.
- AI와 인간의 상호 작용에 대한 알림(사용 상황과 맥락에서 명백하지 않은 경우)
- 고위험 시스템이 출시되기 전에 평가인간 감독자가 이러한 시스템을 이해할 수 있는지 확인하고 편견 테스트를 거친 "고품질" 데이터 세트에 대해 교육을 받았는지 확인하는 것을 포함하여 커미셔닝
- 모든 EU 국가의 대표로 구성된 "인공 지능에 관한 유럽 협의회"를 창설합니다.
전문가들은 AI 제어에 대해 어떻게 생각합니까?
아마도 문서의 가장 중요한 부분은대량 감시 및 사회적 신용 등급을 포함하여 특정 AI 사용을 금지하는 기사입니다. 그러나 디지털 권리 그룹과 정책 전문가의 프로젝트에 대한 반응은이 섹션을 개선해야한다고 말합니다.
“금지된 인공 시스템에 대한 설명Access Now의 유럽 정책 분석가인 Daniel Leufer는 The Verge와의 인터뷰에서 설명합니다. 그의 말에 따르면 이 섹션은 "이상적인 것과는 거리가 멀다".
국내법은 정확히 어떻게 결정하는가AI 결정이 누구에게나 해를 끼쳤습니까? 반면 대량 감시를 위한 AI 활용 금지는 “너무 관대하다”는 입장이다. 그는 "신뢰성"을 기반으로 한 사회 신용 시스템에 대한 금지도 너무 좁게 정의되어 있다고 덧붙였습니다. 사회 신용 시스템은 혜택 자격과 같은 문제를 결정하기 위해 누군가를 신뢰할 수 있는지 여부를 평가할 필요가 없습니다.
Twitter에서 Omer Tene, 부사장비영리 단체 IAPP(국제 개인 정보 보호 전문가 협회)는 이번 판결이 “신기술과 혁신에 대한 브뤼셀의 전형적인 접근 방식을 나타낸다”고 말했습니다. 의심스러우면 조정하세요." Tene에 따르면, 제안이 채택되면 AI 시스템 작성자뿐만 아니라 수입업체, 유통업체 및 사용자도 끌어들이는 "광대한 규제 생태계"가 조성되고 국가 및 국가 모두에서 수많은 규제 위원회가 창설될 것입니다. EU 전역에서.
하지만 이 생태계가 처음은 아닐 것이다.University College London의 디지털 권리 및 규정 강사인 Michael Veale은 이제 "빅 테크"를 제한할 차례라고 말합니다. "그의 초점은 주로 규제 기관이나 고객의 조사를 피하는 잘 알려지지 않은 비즈니스 및 의사 결정 도구 제공업체에 있습니다."
어떤 변화가 있었는지 알 수 없음EU 정책 입안자들이 4월 21일 공식 발표를 준비하는 동안 이 초안 제안에 참여하게 되었습니다. 그러나 일단 규제가 제안되면 국회의원의 피드백에 따라 변경될 수 있으며 각 국가에서 별도로 시행해야 합니다.
새로운 법이 필요한 이유는 무엇입니까?
AI 규제 방안은 이미 오래전부터 논의된 바 있다.시간. 2020년 2월, 유럽연합 집행위원회는 "고위험" 인공 지능 애플리케이션을 규제하기 위한 계획을 설명하는 백서를 발표했습니다. 새 초안에서는 "고위험"이 정확히 어떻게 결정되는지 완전히 명확하지 않습니다.
초안 초안에 따르면 주요 목표는여기서 위원회의 목표는 EU 가치에 기반한 견제와 균형을 통해 AI에 대한 대중의 신뢰를 높이는 것입니다. 목표는 소위 '신뢰할 수 있는' AI와 '인간 중심' AI의 채택을 촉진하는 것입니다. 이는 "고위험" 애플리케이션뿐만 아니라 사람과 상호 작용하는 모든 사람에게 적용됩니다.
법이 통과되면 어떻게됩니까?
초안 제안이 수락되면EU는 특정 AI 애플리케이션에 대해 강력한 입장을 취하게 될 것입니다. 일부 사용에는 GDPR 법률에 따른 EU 디지털 개인 정보 보호 규정과 유사한 통제가 적용됩니다.
EU 요구 사항에는 다음이 포함됩니다.안전 및 AI의 일관된 정확성 보장 - 감독 기관에 대한 의무 위반을 구성하는 AI 시스템 운영의 심각한 사고 또는 실패를 늦어도 15시까지 보고하는 조건 ;이 사실을 알게 된 지 며칠이 지났습니다.
위원회가 피한 것은 주목할 만하다.공공 장소에서 얼굴 인식 사용을 금지하는 제안. 작년 초 유출 된 초안에 따르면 그녀는 아이디어를 고려하고 있었다.
어떤 변경이 있었는지 알 수 없습니다.이것은 EU 정치인들이 4 월 21 일 공식 발표를 준비하는 제안 초안입니다. 그러나 일단 규정이 제안되면 MEP의 피드백을받은 후 변경 될 수 있으며 각 국가에서 별도로 시행해야합니다.
유럽이 규제에 대해 이야기하는 것은 이번이 처음이 아닙니다.기술 산업. 따라서 EU 당국은 Google과 Facebook이 게시자에게 뉴스에 대한 비용을 지불하도록 강요하고 있으며, 연초에 유럽 정치인은 기술 대기업의 수장에게 전화를 걸어 독점을 제한하는 법률을 논의했습니다. 모든 계정에 따르면, 초안 법률은 기술 대기업이 독점을 제한하기 위해 10 %의 수익 벌금을 제공 할 것입니다.
더 읽어보기
세계 최초의 정확한지도가 만들어졌습니다. 다른 사람들에게 무슨 문제가 있습니까?
NASA는 화성 샘플을 지구로 전달하는 방법을 말했습니다.
러시아에서 궤도 항공기 용 엔진 테스트
일반 데이터 보호 규정, 일반일반 데이터 보호 규정(GDPR)은 유럽 의회, 유럽 연합 이사회 및 유럽 위원회가 유럽 연합(EU) 내 모든 개인의 개인 데이터 보호를 강화하고 통합하는 유럽 연합의 규정입니다. 또한 이 규정은 EU에서 데이터를 수출하는 것을 목표로 합니다.
GDPR은 주로 다음 사항을 보장하는 것을 목표로 합니다.시민들에게 자신의 개인 데이터에 대한 통제권을 부여하고, EU 내 규제를 통합하여 국제 경제 관계에 대한 규제 프레임워크를 단순화합니다.
사회적 신용 시스템 ( "사회적등급 ","사회적 신뢰 시스템 ")-대량 감시 도구를 사용하고 빅 데이터 분석 기술을 사용하여 그 값을 얻는 다양한 매개 변수로 개별 시민 또는 조직을 평가하는 시스템입니다. 이는 2010 년대 중국 정부에 의해 처음 구현되었습니다.