Школы США используют искусственный интеллект, чтобы выявлять опасных учеников в соцсетях

Как рассказывает местное издание WBUR, она стала одной из многих школ, внедривших эту технологию в свою систему безопасности.

Систему отслеживания разработала для школы аналитическая компания Social Sentinel. В разговоре с журналистами гендиректор фирмы Гэри Марголис (Gary Margolis) рассказал, что Social Sentinel работает с лингвистами и психологами, чтобы натренировать свой искусственный интеллект.

Компания использует собственную "библиотеку угроз", состоящую из 450 тысяч различных индикаторов, указывающих на то, что ученик может нанести вред себе или окружающим. ИИ маркирует потенциально проблемных учеников и теоретически поможет школе предотвратить события.

"Мы сделали шаг назад и посмотрели на язык, который использовали школьные стрелки в своих публикациях в соцсетях. И мы попытались выявить паттерны и сходства. Мы можем научить компьютеры идентифицировать такие нюансы", - говорит Гэри Марголис.

По данным WBUR, ученики школы "даже не догадывались", что их учебное заведение использует подобные технологии. Марголис заявил журналистам, что компания считает себя не "инструментом наблюдения, мониторинга или расследования", а "системой предупреждения угроз".

Social Sentinel работала над системой совместно с полицейскими, до того как открыла доступ к ней для школ. Услуги компании обходятся Шошин Вэлли 10 тысяч долларов в год, однако фирма отказалась раскрывать, насколько успешно работает ее искусственный интеллект.

В городе Арлингтон систему внедрили на уровне полицейского управления: она анализирует сообщения от учеников сразу во всех школах города. По словам начальника полиции Фреда Райана, благодаря Social Sentinel сотрудники недавно смогли спасти ученика, который планировал покончить жизнь самоубийством.

Шошин Вэлли не единственная школа, которая начала практиковать подобный подход к безопасности на фоне случаев массовой стрельбы. Школа Майами-Дейд пригласила 30 миллионов из бюджета на увеличение штата системы безопасности, включая наем сотрудников для отслеживания соцсетей.

Школы в техасском округе Уилсон и в штате Теннесси также используют системы мониторинга социальных сетей. А учебные заведения в Нью-Йорке и Флориде потратили миллионы долларов на создание круглосуточного наблюдения, которое включает распознавание лиц и биометрические сенсоры.

Читайте также: Все говорят об искусственном интеллекте. Простыми словами объясним, что это

• Тем временем оказалось, что в Новом Орлеане годами тайно тестировали систему прогнозирования преступлений. Основанный на деньги ЦРУ стартап Palantir под прикрытием благотворительности тайно обеспечивал полицию специальным программным обеспечением.

• Напомним, в средней школе Stoneman Douglas High School города Паркленда (штат Флорида) произошла стрельба. Полиция официально сообщила о 17 погибших и более 50 раненых.

• Нападавшего арестовали. Им оказался 19-летний Николас де Хесус Крус, известный своим асоциальным поведением. Власть однако не уделила этому должного внимания, и парень смог достать оружие.

• Во время конференции, посвященной насилию с применением огнестрельного оружия, с участием преподавателей и учащихся из школы во Флориде, где в результате стрельбы погибли 17 человек, президент США Дональд Трамп предложил вооружить учителей для предотвращения трагедии.

• Ранее ФБР признало, что не смогло выявить потенциальную угрозу от 19-летнего Николаса Круза, который 14 февраля расстрелял 17 человек в школе Паркленда.