Невронната мрежа VKontakte изчислява заплахи за живота и обиди в коментарите

Новият филтър за администратори, който ще се бори с онлайн заплахите, е базиран на невронна мрежа.

Филтърът може да се регулира в настройкитеобщност по всяко време. Струва си да се отбележи, че е деактивиран по подразбиране. Новата функция VKontakte вече се появи за администраторите на 50% от публичните страници. Филтърът скоро ще бъде публично достъпен.

Сега алгоритмите са в състояние да идентифицират директни заплахи -пожелания за смърт, обещания да навредят на здравето и смъртни заплахи. Разработчиците на VKontakte няма да спрат дотук и ще продължат да тестват филтъра. В бъдеще той ще се научи да разпознава други признаци на непоносимост. Той няма да пропусне тормоза въз основа на националност или религия. Филтрирани публикации с възможност за възстановяването им са достъпни за лидерите на общността, но тестово пускане показа, че проверените коментари връщат не повече от 1% от случаите.

Тестването на филтъра започна през ноември 2020 г.През този период функцията вече се използва от лидерите на над 10% от всички общности на ВКонтакте. Между другото, това са 13 милиона обществени страници, групи и събития.

За създаване на алгоритми, които разбират добреразговорна реч, използвани са голям брой текстове на руски език - например субтитри от филми, сериали и видеоклипове. Невронната мрежа съдържа специален механизъм за внимание, който ви позволява да вземате решения въз основа на важността на думите и техните комбинации.

Прочетете също

Физиците са създали аналог на черна дупка и са потвърдили теорията на Хокинг. Къде води?

Аборт и наука: какво ще се случи с децата, които ще раждат

Учените откриха ограничението на скоростта в квантовия свят