AI の普及により、人々が気づいていないプライバシーに関する多くの懸念が生じています。一方で
AIによる秘密のリスクは、個人データの膨大なコレクションによるだけでなく、最新の人工知能のほとんどを提供するディープニューラルネットワーク自体のモデルからも。データは、データベースへの攻撃のためだけでなく、それらがトレーニングされたモデルの「リーク」のためにも脆弱です。
を表すディープニューラルネットワークデータのパターンを決定するために設計されたアルゴリズムのセットは、多くのレイヤーで構成されています。これらの層には、ニューロンと呼ばれる多数のノードがあり、隣接する層のニューロンはそれらと相互接続されています。各ノードおよびノード間のリンクは、特定の情報ビットをエンコードします。これらの情報ビットは、特別なプロセスが大量のデータをスキャンしてモデルをトレーニングするときに作成されます。
たとえば、顔認識アルゴリズムは人の性別をより正確に予測できるように、一連の自撮りについて訓練を受けました。そのようなモデルは非常に正確ですが、あまりに多くの情報を保存することもできます-実際に学習過程で特定の人を覚えています。攻撃者は、描かれた顔の性別を分類するディープニューラルネットワークを探索することにより、トレーニングデータに基づいて人物を特定できます。
登場した保護方法の一つ機械学習の専門家であるAIモデルには不確実性が追加されました。これは、攻撃者がモデルの動作を正確に予測できないようにするために行われました。特定のデータシーケンスをスキャンしますか？または、サンドボックスを起動しますか？理想的には、マルウェアはその動機を知らず、無意識のうちに公開します。
AI のプライバシーを向上させるもう 1 つの方法は、ディープ ニューラル ネットワークの脆弱性を調査します。完璧なアルゴリズムは存在せず、これらのモデルは脆弱です。その理由は、読み取ったデータの小さな変化に非常に敏感であるためです。
これらの脆弱性を利用して、個人データに「ノイズ」を追加することでプライバシーを向上させます。たとえば、ドイツのプランク情報学研究所の研究者は、Flickr 画像を顔認識ソフトウェアに変換する方法を開発しました。その変化は信じられないほど微妙で、人間の目では認識できないほどです。
AIが緩和に役立つ別の方法情報セキュリティの問題-モデル構築時にデータの機密性を維持します。有望な開発の1つは、統合学習と呼ばれます。 GoogleがスマートキーボードのGboardでこれを使用して、次に入力する単語を予測しています。フェデレーテッドラーニングは、1つの中央データウェアハウスではなく、さまざまなデバイスに保存されたデータから究極のディープニューラルネットワークを構築します。その主な利点は、ソースデータがローカルデバイスから離れることがないことです。したがって、プライバシーは依然としてある程度保護されています。はい、これは理想的なソリューションではありません。ローカルデバイスは一部の計算を実行しますが、それらを完了しません。中間結果により、デバイスとそのユーザーに関するデータが明らかになる場合があります。
フェデレーション ラーニングにより、次のような洞察が得られますAI がプライバシーをより尊重する未来。研究が続けば、AI がプライバシーの問題の原因ではなく、ソリューションの一部となる方法がさらに見つかるかもしれません。
また読む
コロナウイルスが最初に攻撃する臓器とその発生方法を確認する
地球上で最初の生物は誰でしたか？人生の起源について知っていたすべてを忘れて
世界中で撮影された日食の写真を見る