1100 шкіл в США сканують соцмережі учнів. Вони шукають ознаки депресії і схильності до насильства

При виявленні потенційних проблем, в залежності від їх тяжкості, шкільна адміністрація, батьки і, в

крайньому випадку, співробітники правоохороннихорганів отримують про це повідомлення. Восени 2017 року Bark провів перший пілотний тест за участю двадцяти п'яти шкіл. «Ми виявили кілька досить тривожних проблем, включаючи загрозу вибуху бомби і перестрілки в школі», - зазначає директор батьківського комітету компанії Титания Джордан. Після цього вони запропонували ввести масштабний моніторинг.

Продукт Bark є безкоштовним для шкіл в СШАна необмежений термін. Компанія відзначає, що може дозволити це через гроші, які вона заробляє на повній версії для батьків. Вартість батьківського продукту становить 9 доларів в місяць і включає в себе моніторинг понад двадцять п'ять соціальних мереж, від Twitter і Instagram до Snapchat і YouTube.

Жодна з компаній при цьому не стверджує, щоможе виявити підозрілу поведінку кожного разу - іноді вони отримують хибнопозитивні результати. Однак при виявленні «підозрілого контенту», програма відправляє батькам і школам повідомлення з рекомендаціями про те, як вирішити цю проблему.

Зараз програмами користується в більш ніж 1100школах, це близько 2,6 мільйона дітей. Якщо буде виявлено матеріали, які можна назвати «надзвичайно серйозними» - наприклад, викрадення дитини або загроза стрілянини в школі, питання передається на розгляд ФБР.

На штаб-квартиру YouTube скоєно напад. Чотири людини постраждали

За словами Джордан, додаток відправляє від 35 до55 тисяч попереджень кожен день. Але з тих пір як в лютому 2018 року Bark запустив шкільний продукт, ФБР отримало повідомлення про шістнадцяти можливих шкільних перестрілках.

«Дослідження показали, що діти спілкуються міжсобою до здійснення акту насильства. Якщо у нас немає коштів, щоб почути ці крики про допомогу, діти в небезпеці », - зазначив Білл МакКаллоу, віце-президент з продажу компанії Gaggle.

МакКаллоу додав, що їхня компанія не покладаєтьсятільки на машинне навчання для визначення загроз. Якщо в результаті сканування листів і документів, виданих школою, виявляється дитина, що потрапив в кризову ситуацію, кваліфіковані фахівці з безпеки аналізують їх зміст і перевіряють, чи є загроза законною, а потім визначають ступінь її серйозності.