AI는 얼굴로 범죄자를 예측하려고했습니다.
2020년 6월, 논란의 여지가 있는 연구 결과가 나왔습니다.
출판물에 대한 응답으로 등장2,000명 이상의 AI 연구자, 과학자, 학생이 서명한 공개 서한입니다. 그들은 과학 저널에 해당 연구를 출판하지 말 것을 촉구하면서 “인종, 계급 및 성별에 기반한 알고리즘 편견의 최근 사례는 기계 학습 시스템이 역사적 형태의 차별을 강화하고 윤리에 대한 관심을 다시 불러일으키는 구조적 경향을 드러냈습니다. 기술과 사회에서의 역할.
편지에서 전문가들은 두 가지 중요한 질문을 제기했습니다.과학자들은 기계 학습을 기존 기관 및 프로세스에 통합하면 누가 부정적인 영향을 받을지 생각해 보라고 했습니다. 그리고 이 작품의 출판이 어떻게 취약계층에 대한 차별을 합법화하게 될까요?”
이에 대해 Nature의 출판사는 그렇지 않을 것이라고 말했습니다.연구를 신문에 게재합니다. 해리스버그 대학교는 연구의 세부 사항을 설명하는 보도 자료를 삭제하고 성명을 발표했습니다. 그 문서에서 그들은 “교수진이 우려 사항을 해결하기 위해 문서를 업데이트하고 있다”고 대중에게 확신시켰습니다.
AI가 축구공과 심판의 대머리를 혼동
2020년 10월 스코틀랜드 축구 클럽Inverness Caledonian Thistle FC는 새로 설치된 AI 구동 Pixellot 카메라 시스템 덕분에 홈 경기가 생중계될 것이라고 발표했습니다. 아아, Caledonian Stadium에서 경기를 추적하려는 시도에서 AI 공 추적 기술은 특히 선수나 그림자에 의해 가려진 경우 공을 심판의 대머리와 반복적으로 혼동했습니다. 웃긴 이야기였음에도 불구하고 집에서 경기를 지켜보던 구단과 팬들은 안타까워했다.
인공 볼 추적 카메라 구현인텔리전스는 스포츠 경기장과 팀을 위해 라이브 방송을 비용 효율적으로 만들 것을 약속합니다(운영자에게 비용을 지불할 필요 없음). 그러나 그러한 실패는 오히려 시청자를 소외시킬 수 있습니다. Pixellot은 카메라 시스템을 사용하여 매월 90,000시간 이상의 라이브 콘텐츠를 생성한다고 말합니다. 그들은 더 많은 데이터를 사용하도록 알고리즘을 조정하면 대머리 추적 실패를 해결할 것이라고 확신합니다.
챗봇, 환자에게 자살 권고
2020년에는 챗봇이 사람을 죽여달라고 제안했다내 자신. 의사의 부담을 줄이기 위해 GPT-3 기반 봇이 만들어졌습니다. The Register는 그가 가짜 환자에게 자살을 권유함으로써 의사를 “돕는” 특이한 방법을 발견한 것으로 보인다고 보도했습니다. 실험에 참여한 한 참가자는 보조봇에게 "기분이 너무 안 좋아서 자살해야 할까요?"라고 말했습니다. AI는 “그럴만한 가치가 있다고 생각한다”고 간단하게 답했다.
일련의 시나리오 중 하나에 불과했지만챗봇을 만든 프랑스 회사인 Nabla의 GPT-3의 기능을 평가하기 위해 설계된 시뮬레이션은 "소프트웨어 응답의 불규칙하고 예측할 수 없는 특성으로 인해 실제 세계에서 환자와 상호 작용하는 데 적합하지 않습니다."라고 결론지었습니다.
GPT-3 - 3세대 처리 알고리즘OpenAI의 자연어 2020년 9월 현재 세계에서 가장 크고 가장 발전된 언어 모델입니다. 개발자에 따르면 이 모델은 "영어로 된 모든 문제"를 해결하는 데 사용될 수 있습니다. GPT-3 모델의 기능은 전문가와 대중 사이에서 우려를 불러일으켰습니다. AI는 “안전한 사용을 방해하는 인종차별적, 성차별적 또는 기타 독성 언어를 생성”하는 경향이 있다는 비난을 받았습니다. GPT-3 문제에 대한 자세한 보고서가 게시되었습니다. 워싱턴 대학과 Allen Institute for AI의 과학자들.
마스크로 속인 페이스ID
Face ID는 iPhone X를 보호하는 데 사용되는 생체 인식 얼굴 인식 시스템입니다. 베트남 회사 Bkav의 직원은 얼굴 모형을 사용하여 이를 속였습니다.
Bkav 전문가들이 3D 프린터로 마스크를 인쇄했습니다.실리콘으로 손으로 만든 코, 입과 눈의 사본, 모의 피부를 그 위에 붙였습니다. 그러한 마스크의 비용은 $ 150였습니다. 전문가들은 사용자의 얼굴이 아니라 마스크가 전면에 있을 때 iPhone X를 쉽게 잠금 해제했습니다. Bkav 전문가들은 Face ID가 사용자의 얼굴의 절반을 가려도 사용자를 인식하기 때문에 전체 얼굴이 아닌 스캔으로 마스크를 만들 수 있다는 점에 주목했습니다.
Bkav는 2008년부터 얼굴 인식 시스템을 연구해 왔습니다. 회사는 아직 신뢰할만한 것이 없다고 믿고 있으며 지문 스캐너가 가장 큰 보호 기능을 제공합니다.
위험한 운전
자율주행차의 확산은 피할 수 없는 미래처럼 보입니다. 문제는 위험한 상황에서의 윤리적 선택과 같은 중요한 문제가 아직 해결되지 않았다는 것입니다.
동시에 테스트 자체는 다음과 같이 수행됩니다.비극적인 결과. 2018년 봄, Uber는 미국 애리조나주 템피 거리에서 볼보 모델 중 하나를 기반으로 한 자율주행차를 테스트했습니다. 한 여성이 차에 치여 숨졌습니다. 잘못된 경보를 피하기 위해 인식된 위험한 물체에 대한 민감도를 낮추어 자동 조종 장치 테스트를 수행했습니다. 민감도 임계값이 감소하면 시스템은 존재하지 않는 위험한 개체를 감지했습니다.
Tesla는 이미 2건의 도로 사고를 기록했습니다.사망자 - 2016년과 2018년. 자동 조종 장치가 켜진 상태에서 차량을 운전하고 험난한 지형에서 조향 장치를 제어하지 않은 운전자가 부상을 입었습니다.
여성을 '문제'로 본 AI
Amazon Corporation 등미국의 거대 기술 기업은 인공 지능 분야 개발의 중심지 중 하나입니다. 회사는 2017년 약 3년간 진행해 온 AI 기반 직원 채용 시범 프로젝트를 종료했다. 주요 문제 중 하나는 후보자의 성차별이었습니다. 알고리즘이 여성 후보자를 과소평가했습니다.
회사 측은 지난 10년간 남성이 대다수였던 아마존에서 후보자를 선발한 경험을 AI가 학습했다고 설명했다.
기본적으로 Amazon 시스템은 다음을 배웠습니다.남성 후보자가 여성보다 선호됩니다. 그는 "여자체스부 주장"과 같이 "여자"라는 단어가 포함된 이력서를 거절했습니다. 이 문제에 정통한 소식통에 따르면 그는 두 여자 대학의 졸업률을 낮췄다. 학교 이름은 명시되지 않았다.
다른 문제가 있었습니다. 알고리즘은 종종 거의 무작위적인 결과를 생성했습니다. 그 결과 프로그램이 종료되었습니다.
읽다 더 나아가
수많은 무기를 탑재한 중공격 드론을 만나보세요
과학자들은 3년 동안 람보 여우를 잡지 못했습니다. 희귀 동물이 숲으로 방출되는 것을 방지합니다.
몇 킬로미터 떨어진 우주선: 중국의 새로운 프로젝트에 대해 알려진 모든 것
심리 상담 전화(상담전화): 8 (800) 333-44-34. 통화는 러시아 전역에서 무료입니다.