実験「VKontakte」は、コメントで侮辱を認識するようにAIをトレーニングします

24 時間以内に、VKontakte は 2 つの新しい機能をテストします。開発者によると、このイノベーションは役立つだろう

プラットフォームユーザーが遭遇する可能性は低いさまざまな種類の不耐症を抱えています。私たちは、とりわけ、国籍に基づく迫害、宗教に基づく侮辱、脅迫について話しています。プラットフォーム管理者は、コミュニティ設定で敵対的な発言に対する特別なフィルターを有効にすることができます。コメンテーターに関しては、攻撃的な発言を拒否するという提案が見られることになる。どちらのツールも、侮辱を認識するニューラル ネットワークを含むアルゴリズムに基づいて動作します。

今日、11月4日、その間新しいアルゴリズムの導入に関する実験があり、コミュニティの設定で敵対的なステートメントのフィルターを有効にすることが可能になります。ニューラルネットワークは、人間の生命と健康に対する直接の脅威を含むコメントを削除します。ただし、管理者には、フィルターが拒否したすべてのコメントが表示されます。彼には、削除されたレプリカを復元するか、作成者をコミュニティのブラックリストに送るかを選択できます。新しい実験的なヘイトスピーチフィルターはいつでもオンまたはオフにできると言わなければなりません。

プラットフォームのニューラル ネットワークは学習と発展を続けています。 VKontakte に記載されているように、実験の結果はフィルターのパフォーマンスのさらなるトレーニングと改善に使用されます。

同様の機能はすでに多くのソーシャルネットワークで利用可能です。たとえば、Instagram は敵対的なコメントを認識し、ユーザーがそれを公開する前に、プラットフォームはユーザーに購読解除を促し、不快なコンテンツが削除される可能性があることを警告します。

オンラインハラスメントの問題は、長い間科学者や研究者の注目を集めてきましたが、近年、多くの注目を集めています。

また読む

北極圏での毎年恒例の任務は終了し、データは期待外れです。人類を待っているのは何ですか？

科学者たちは、中性子がどれだけ長く生きるかを理解しようとしています。なぜそんなに難しくて重要なのですか？

天文学者は最も強い風のクエーサーを発見しました