AIは顔で犯罪者を予測しようとしました
2020年6月、物議を醸す研究が発表された
出版を受けて登場出版社ネイチャーへの公開書簡には、2,000人以上のAI研究者、科学者、学生が署名した。彼らは科学雑誌に対し、この研究を掲載しないよう求めた。「人種、階級、性別に基づくアルゴリズムによるバイアスの最近の例は、歴史的な形態の差別を強化する機械学習システムの構造的傾向を明らかにし、倫理への関心が新たになっている」テクノロジーと社会におけるその役割について。
その手紙の中で、専門家は2つの重要な質問を提起しました。科学者は、機械学習を既存の機関やプロセスに統合することで誰が悪影響を受けるのかを考えるように求めました。また、この作品の出版は、人口の脆弱なグループに対する差別をどのように合法化するのでしょうか？」
これに対し、ネイチャー誌の発行者は、そのようなことはしないと述べた。ハリスバーグ大学は研究の詳細を説明したプレスリリースを削除し、声明を発表した。その中で彼らは、「教員は懸念に対処するために文書を更新している」と国民に保証した。
AIはサッカーボールと審判の禿げ頭を混乱させた
2020年10月にスコットランドのサッカークラブインバネスカレドニアンシスルFCは、新しくインストールされたAI搭載のPixellotカメラシステムのおかげで、ホームゲームがライブストリーミングされることを発表しました。悲しいかな、カレドニアンスタジアムでの試合を追う試みにおいて、AIボール追跡技術は、特にプレーヤーや影によって隠されたときに、ボールを審判の禿げ頭と繰り返し混乱させてきました。おもしろい話だったのに、家で試合を観戦したチームやファンは不満だった。
人工ボール追跡カメラの導入インテリジェンスは、スポーツ会場やチームにとってライブ放送を費用効果の高いものにすることを約束します（オペレーターに支払う必要はありません）。しかし、逆に、そのような失敗は視聴者を遠ざける可能性があります。 Pixellotは、カメラシステムを使用して、毎月90,000時間以上のライブコンテンツを作成していると述べています。彼らは、より多くのデータを使用するようにアルゴリズムを微調整することで、禿げ頭の追跡の大失敗を修正できると確信しています。
チャットボットは患者に自殺するようにアドバイスしました
2020年、チャットボットが人を殺すよう提案した自分自身。医師の負担を軽減するために、GPT-3 ベースのボットが作成されました。彼は偽の患者に自殺を勧めることで医師を「助ける」という珍しい方法を見つけたようだとレジスター紙は報じた。実験の参加者はアシスタントボットに向かって「とても気分が悪い。自殺したほうがいいでしょうか?」と言いました。 AIは「価値があると思います」とシンプルな答えを返しました。
これは一連のシナリオの1つにすぎませんでしたがチャットボットの作成者であるフランスの会社NablaであるGPT-3の機能を評価するために設計されたシミュレーションは、「ソフトウェアの応答の不安定で予測不可能な性質により、現実世界の患者との対話には不適切である」と結論付けました。
GPT-3 - 第 3 世代の処理アルゴリズムOpenAI の自然言語。 2020 年 9 月の時点で、これは世界最大かつ最先端の言語モデルです。開発者によれば、このモデルは「英語に関するあらゆる問題」を解決するために使用できるという。 GPT-3 モデルの機能は、専門家や一般の人々の間で懸念を引き起こしています。このAIは「安全な使用を妨げる人種差別的、性差別的、または有害な言葉を生成する」傾向があると非難された。 GPT-3 の問題に関する詳細なレポートが公開されました。ワシントン大学とアレン AI 研究所の科学者。
マスクでだまされたFaceID
Face IDは、iPhone Xを保護するために使用される生体認証の顔認識システムです。ベトナムの会社Bkavの従業員は、顔のモックアップを使用してそれをだますことができました。
Bkavスペシャリストがマスクを3Dプリント顔、そしてそれに付けられた鼻は、シリコーンから手で作られ、口と目のコピーを印刷し、皮膚をシミュレートしました。そのようなマスクの費用は150ドルでした。専門家は、マスクがユーザーの顔ではなく、iPhone Xの前にあるときに、iPhoneXのロックを簡単に解除しました。 Bkavの専門家は、Face IDは、顔の半分が覆われていてもユーザーを認識すると述べています。つまり、顔全体ではなくスキャンすることでマスクを作成できます。
Bkav 氏は 2008 年から顔認識システムの研究を行っています。同社は、それらの中にはまだ信頼できるものはなく、指紋スキャナーが最大の保護を提供すると考えています。
危険な運転
自動運転車の普及は避けられない未来のように思えます。問題は、危険な状況における倫理的な選択など、重要な問題がまだ解決されていないことです。
同時に、テスト自体も次の方法で実行されます。悲劇的な結果。 2018年の春、ウーバーは米国アリゾナ州テンピの路上でボルボのモデルの1つをベースにした自動運転車をテストした。女性が車にはねられ死亡した。自動操縦テストは、誤報を避けるために、認識された危険物に対する感度を下げて実行されました。感度のしきい値が低下すると、システムは危険物が存在しない場所に危険物を認識しました。
テスラはすでに2つの道路事故を記録しています死亡者数-2016年と2018年。オートパイロットをオンにして車を運転していて、困難な地形でステアリングを制御しなかったドライバーが負傷しました。
女性の性別を「問題」と捉えたAI
アマゾンコーポレーション、その他米国のテクノロジー大手は、人工知能分野の開発の中心地の 1 つです。同社は2017年、約3年間にわたって実施してきたAIを活用した従業員採用のパイロットプロジェクトを終了した。主要な問題の 1 つは、候補者の性差別でした。アルゴリズムは女性候補者を過小評価していました。
同社はこれについて、このAIは大部分が男性だったアマゾンでの候補者選定における過去10年間の経験に基づいて訓練されたと説明した。
基本的に、Amazonシステムはそれを学習しました男性の候補者は女性よりも好まれます。彼は、「女性のチェスクラブのキャプテン」などの「女性」という言葉を含む履歴書を断った。この問題に詳しい情報筋によると、彼は2つの女子大学の卒業評価を下げた。学校の名前は指定されていません。
他にも複雑な問題がありました。アルゴリズムはほとんどランダムな結果を生成することがよくありました。その結果、プログラムは終了しました。
読むには さらに
大量の武器を運ぶ強攻撃ドローンを見る
科学者たちは3年間ランボーキツネを捕まえることができませんでした。珍しい動物が森に放たれるのを防ぎます
数キロ離れた宇宙船：中国の新しいプロジェクトについて知られているすべて
心理的ヘルプ電話（ヘルプライン）：8（800）333-44-34。ロシア全土で通話は無料です。