В основі нового фільтра для адміністраторів, який боротиметься з онлайн-загрозами, лежить нейромережа.
Зараз алгоритми вміють визначати прямі погрози -побажання смерті, обіцянки заподіяти шкоду здоров'ю і погрози розправи. Розробники «ВКонтакте» на цьому не зупиняться і продовжать тестування фільтра. У майбутньому він навчиться розпізнавати і інші ознаки нетерпимості. Він не пропустить цькування за національною або релігійною приналежністю. Керівникам спільнот доступні відфільтровані публікації з можливістю їх відновити, однак тестовий запуск показав, що відсіяні коментарі повертають не більше 1% випадків.
Тестування фільтра запущено в листопаді 2020 року.За цей період функцією вже скористалися керівники понад 10% всіх спільнот «ВКонтакте». До речі, це 13 млн публічних сторінок, груп і заходів.
Для створення алгоритмів, які добре розуміютьрозмовну мову, використовувалося багато текстів російською — наприклад, субтитри з фільмів, серіалів і відео. Нейросеть містить у собі спеціальний механізм уваги, що дозволяє приймати рішення на основі важливості слів та їх комбінацій.
Читайте також
Фізики створили аналог чорної діри і підтвердили теорію Хокінга. До чого це призведе?
Аборти і наука: що буде з дітьми, яких народять
Вчені виявили межа швидкості в квантовому світі