Експеримент „ВКонтакте“ обучиће АИ да препозна увреде у коментарима

За 24 сата ВКонтакте ће тестирати две нове функције. Према речима програмера, иновација ће помоћи

мање је вероватно да ће се корисници платформе сусрестиса&нбсп;различитим врстама нетолеранције. Реч је, између осталог, о прогону на основу националности, увредама на основу верске припадности и претњама. Администратори платформе ће моћи да омогуће посебан филтер за непријатељски говор у поставкама заједнице. Што се коментатора тиче, видеће предлог да се одбију увредљиве примедбе. Оба алата раде на основу алгоритама, укључујући неуронску мрежу која препознаје увреде.

Данас, 4. новембра, за један дан, током којегбиће изведен експеримент на увођењу нових алгоритама, у подешавањима заједнице биће могуће омогућити филтер непријатељских изјава. Неуронска мрежа брише коментаре који садрже директне претње по живот и здравље људи. Међутим, администратор ће видети све коментаре које је филтер одбио. Имаће избор - вратити избрисане реплике или послати аутора на црну листу заједнице. Вреди рећи да се нови, експериментални филтер говора мржње може укључити или искључити у било ком тренутку.

Неуронска мрежа платформе наставља да учи и развија се. Као што је наведено на ВКонтактеу, резултати експеримента ће се користити за даљу обуку и побољшање перформанси филтера.

Слична функција је већ доступна на многим друштвеним мрежама.На пример, Инстаграм препознаје непријатељски коментар и, пре него што га корисник објави, платформа тражи од корисника да се одјави, упозоравајући да би увредљиви садржај могао бити уклоњен.&нбсп;

Проблем узнемиравања на мрежи одавно привлачи пажњу научника и истраживача, али последњих година му се посвећује велика пажња.

Прочитајте такође

Годишња мисија на Арктику је завршена и подаци су разочаравајући. Шта чека човечанство?

Научници покушавају да схвате колико дуго живи неутрон. Зашто је тако тешко и важно?

Астрономи су открили квазар са најјачим ветровима