AI의 확산은 사람들이 인식하지도 못하는 수많은 개인 정보 보호 문제를 야기합니다. 다른 사람과
AI의 비밀 위험은 다음으로 제한되지 않습니다.개인 데이터의 방대한 수집뿐만 아니라 오늘날 인공 지능의 대부분을 제공하는 심층 신경망 모델 자체에서도 발생합니다. 데이터는 데이터베이스 공격뿐만 아니라 학습 된 모델의 "누수"에도 취약합니다.
심층 신경망은데이터에서 패턴을 식별하기위한 알고리즘 세트는 여러 계층으로 구성됩니다. 이러한 계층에는 뉴런이라고하는 많은 수의 노드가 포함되어 있으며 인접 계층의 뉴런은 이들과 상호 연결됩니다. 각 노드와 노드 간의 링크는 특정 정보 비트를 인코딩합니다. 이러한 정보 비트는 특수 프로세스가 모델을 학습시키기 위해 대량의 데이터를 스캔 할 때 생성됩니다.
예를 들어 얼굴 인식 알고리즘은 다음과 같습니다.그는 사람의 성별을 더 정확하게 예측할 수 있도록 일련의 셀카에 대해 훈련 받았습니다. 이러한 모델은 매우 정확하지만 너무 많은 정보를 저장할 수도 있습니다. 실제로 학습 과정에서 특정 개인을 기억합니다. 공격자는 묘사 된 얼굴에서 성별을 분류하는 심층 신경망을 검사하여 훈련 데이터에서 사람을 식별 할 수 있습니다.
함께 나온 보호 방법 중 하나머신 러닝 전문가들은 AI 모델에 불확실성을 더하고있었습니다. 이는 공격자가 모델이 수행 할 작업을 정확히 예측하지 못하도록하기위한 것입니다. 특정 데이터 시퀀스를 스캔합니까? 아니면 샌드 박스를 시작할까요? 이상적으로는 맬웨어가 그 동기를 알지 못하고 무의식적으로 노출합니다.
AI 개인정보 보호를 개선하는 또 다른 방법은 다음과 같습니다.심층 신경망의 취약점을 탐색합니다. 완벽한 알고리즘은 없으며 이러한 모델은 취약합니다. 그 이유는 그들이 읽는 데이터의 작은 변화에 매우 민감하기 때문입니다.
이러한 취약점은 다음과 같은 용도로 사용될 수 있습니다.개인 데이터에 "노이즈"를 추가하여 개인 정보 보호를 향상합니다. 예를 들어, 독일 플랑크 정보학 연구소(Planck Institute for Informatics)의 연구원들은 Flickr 이미지를 얼굴 인식 소프트웨어로 변환하는 방법을 개발했습니다. 그 변화는 인간의 눈으로 감지할 수 없을 정도로 매우 미묘합니다.
AI가 완화를 도울 수있는 또 다른 방법정보 보안 문제-모델을 구축 할 때 데이터를 기밀로 유지합니다. 유망한 개발 중 하나는 연합 학습입니다. 이것이 Google이 Gboard 스마트 키보드에서 다음에 입력 할 단어를 예측하는 데 사용하는 것입니다. 연합 학습은 하나의 중앙 데이터 저장소가 아닌 여러 장치에 저장된 데이터에서 궁극적 인 심층 신경망을 구축합니다. 주요 장점은 소스 데이터가 로컬 장치를 벗어나지 않는다는 것입니다. 따라서 개인 정보는 여전히 어느 정도 보호됩니다. 예, 이것은 완벽한 솔루션이 아닙니다. 로컬 장치가 일부 계산을 수행하지만 완료하지는 않습니다. 중간 결과는 장치 및 사용자에 대한 일부 정보를 표시 할 수 있습니다.
연합 학습은 다음에 대한 통찰력을 제공합니다.AI가 개인정보를 더욱 존중하는 미래. 지속적인 연구를 통해 AI가 개인 정보 보호 문제의 원인이 아닌 솔루션의 일부가 되는 더 많은 방법을 찾을 수 있습니다.
읽어보기
코로나 바이러스가 어떤 기관을 먼저 공격하고 어떻게 발생하는지 확인
지구상 최초의 유기체는 누구입니까? 삶의 기원에 대해 알고있는 모든 것을 잊어라
전 세계에서 찍은 일식 사진보기