Нейросеть «ВКонтакте» обчислює загрози життю і образи в коментарях

В основі нового фільтра для адміністраторів, який буде боротися з онлайн-загрозами, лежить нейросеть.

Фільтр можна регулювати в настройках спільнотив будь-який час. Варто відзначити, що за замовчуванням він відключений. Нова функція «ВКонтакте» з'явилася вже у адміністраторів 50% паблік. Найближчим часом фільтр з'явиться в загальному доступі.

Зараз алгоритми вміють визначати прямі погрози -побажання смерті, обіцянки заподіяти шкоду здоров'ю і погрози розправи. Розробники «ВКонтакте» на цьому не зупиняться і продовжать тестування фільтра. У майбутньому він навчиться розпізнавати і інші ознаки нетерпимості. Він не пропустить цькування за національною або релігійною приналежністю. Керівникам спільнот доступні відфільтровані публікації з можливістю їх відновити, однак тестовий запуск показав, що відсіяні коментарі повертають не більше 1% випадків.

Тестування фільтра запущено в листопаді 2020 року.За цей період функцією вже скористалися керівники понад 10% всіх спільнот «ВКонтакте». До речі, це 13 млн публічних сторінок, груп і заходів.

Для створення алгоритмів, які добре розуміютьрозмовну мову, використовувалася велика кількість текстів російською мовою - наприклад, субтитри з фільмів, серіалів і відео. Нейросеть містить в собі спеціальний механізм уваги, що дозволяє приймати рішення на основі важливості слів і їх комбінацій.

Читайте також

Фізики створили аналог чорної діри і підтвердили теорію Хокінга. До чого це призведе?

Аборти і наука: що буде з дітьми, яких народять

Вчені виявили межа швидкості в квантовому світі