"Лесли Матис знает, что её дочь сказала неправду. Но она никак не ожидала, что 13-летнюю девочку за это арестуют.
Девочка-подросток допустила оскорбительную шутку во время онлайн-общения с одноклассниками, что привело к срабатыванию школьного программного обеспечения для наблюдения.
Не успело закончиться утро, как восьмиклассницу из Теннесси арестовали. По словам её матери, девочку допросили, обыскали и оставили на ночь в тюремной камере.
Ранее в тот же день друзья дразнили её из-за ее загорелого лица и называли ее
“мексиканкой”, хотя это не так. Когда подруга спросила, что она планирует на четверг, она написала:
“В четверг мы убьем всех мексиканцев”.
Матис сказала, что комментарии были
«неправильными» и
«глупыми», но контекст показал, что они не представляли угрозы.
«У меня возникло ощущение, что это и есть та Америка, в которой мы живём?» — сказала Мэтис об аресте своей дочери. —
«И всё из-за этой дурацкой технологии, которая просто подбирает случайные слова, не обращая внимания на контекст».
Системы видеонаблюдения в американских школах всё чаще отслеживают всё, что ученики пишут в школьных аккаунтах и на школьных устройствах. Тысячи школьных округов по всей стране используют такие программы, как Gaggle и Lightspeed Alert, чтобы отслеживать онлайн-активность детей и выявлять признаки того, что они могут причинить вред себе или другим. С помощью искусственного интеллекта технологии могут анализировать онлайн-переписки и немедленно уведомлять об этом как руководство школы, так и правоохранительные органы.
Педагоги говорят, что эта технология спасла жизни. Но критики предупреждают, что она может привести к уголовному преследованию детей за неосторожные высказывания.
«Это упростило доступ правоохранительных органов к информации о жизни учащихся, в том числе о том, что происходит у них дома», — сказала Элизабет Лэрд, директор Центра демократии и технологий.
Школы усиливают меры безопасности на случай угроз
В стране, уставшей от стрельбы в школах, несколько штатов ужесточили меры в отношении угроз в адрес учебных заведений. Среди них — штат Теннесси, где в 2023 году был принят закон о нулевой терпимости, согласно которому о любой угрозе массового насилия в отношении школы необходимо немедленно сообщать в правоохранительные органы.
13-летняя девочка, арестованная в августе 2023 года, переписывалась с друзьями в чате, привязанном к её школьной электронной почте в средней школе Фэйрвью, где для контроля аккаунтов учащихся используется платформа Gaggle. (Associated Press не называет имя девочки, чтобы защитить её конфиденциальность. Школьный округ не ответил на запрос о комментарии.)
Подростка, которого доставили в участок, допросили и обыскали, а её родителям разрешили поговорить с ней только на следующий день, согласно иску, который они подали против школьной системы. Она не знала, почему её родителей не было рядом.
«Потом она сказала мне: «Я думала, ты меня ненавидишь». Такие слова не дают покоя», — сказала Матис, мать девочки.
Суд назначил девочке восьминедельный домашний арест, психологическую экспертизу и 20 дней обучения в альтернативной школе.
Генеральный директор Gaggle Джефф Паттерсон заявил в интервью, что школьная система использовала Gaggle не по назначению. По его словам, цель состоит в том, чтобы выявлять тревожные сигналы на ранней стадии и принимать меры до того, как проблемы дойдут до правоохранительных органов.
«Я бы хотел, чтобы это рассматривалось как поучительный случай, а не как нарушение закона», — сказал Паттерсон.
Чаты для студентов подвергаются неожиданной проверке
По словам Шахар Паш, юриста в сфере образования из Флориды, студенты, которые думают, что общаются в чате только с друзьями, часто не осознают, что находятся под постоянным наблюдением.
Одна девочка-подросток, которую она представляла, пошутила о стрельбе в школах в личной истории в Snapchat. Автоматизированная система обнаружения Snapchat зафиксировала этот комментарий, компания уведомила ФБР, и через несколько часов девочку арестовали на территории школы.
16-летняя Алекса Манганиотис сказала, что её поразило, насколько быстро работает программное обеспечение для мониторинга. В школе искусств Дрейфус в Уэст-Палм-Бич, которую она посещает, в прошлом году была запущена программа наблюдения Lightspeed Alert. Когда Алекса брала интервью у учителя для школьной газеты, она узнала, что двое учеников однажды написали что-то угрожающее об этом учителе на школьном компьютере, а затем удалили это. Программа Lightspeed зафиксировала это и
«их забрали примерно через пять минут», — сказала Алекса.
По словам Алексы, подростки сталкиваются с более серьёзными последствиями за свои публикации в интернете, чем взрослые.
«Если взрослый человек опубликует на своём компьютере расистскую шутку с угрозами, он может удалить её и его не арестуют», — сказала она.
Эми Беннетт, руководитель аппарата Lightspeed Systems, сказала, что программное обеспечение помогает школам с нехваткой персонала
«действовать на опережение, а не применять карательные меры», выявляя ранние признаки травли, членовредительства, насилия или жестокого обращения.
Эта технология также может помочь правоохранительным органам в реагировании на кризисные ситуации, связанные с психическим здоровьем.
В школах округа Полк во Флориде, где обучается более 100 000 учеников, за четыре года программа обеспечения безопасности в школах получила почти 500 предупреждений от Gaggle, как сообщили сотрудники на публичных заседаниях совета по образованию.
Это привело к 72 случаям принудительной госпитализации в соответствии с Законом Бейкера — законом штата, который позволяет властям требовать проведения оценки психического здоровья людей против их воли, если они представляют опасность для себя или окружающих.
«Очень многие дети, подвергшиеся принудительному обследованию, вспоминают его как травмирующий и разрушительный опыт, а не как то, что помогло им в лечении психических расстройств», — сказал Сэм Бойд, адвокат Южного центра правовой защиты бедноты. Школьные округа Полка и Уэст-Палм-Бич не предоставили комментариев.
Наташа Торкзабан стоит у здания старшей школы Лоуренса, где она и другие ученики подали иск против школьного округа за использование программного обеспечения для цифрового наблюдения. Лоуренс, штат Канзас, США, 3 августа 2025 г.
Анализ показывает высокий процент ложных срабатываний
Информация, которая могла бы помочь школам оценить эффективность программного обеспечения, например количество ложных срабатываний, является конфиденциальной и не публикуется, если только школы сами не отслеживают эти данные.
За последние 10 месяцев система Gaggle сообщила о более чем 1200 инцидентах в школьном округе Лоуренса, штат Канзас. Но, согласно анализу данных, полученных от Associated Press в рамках запроса о предоставлении публичной информации, почти две трети этих сообщений были признаны школьными чиновниками ложными, в том числе более 200 ложных срабатываний из-за домашних заданий учеников.
Учеников одного из
классов фотографии вызвали в кабинет директора из-за опасений, что Gaggle обнаружил обнаженную натуру.
Фотографии были автоматически удалены с Google Дисков учащихся, но учащиеся, у которых были резервные копии помеченных изображений на своих устройствах, показали, что это была ложная тревога.
Окружные власти заявили, что позже они скорректировали настройки программного обеспечения, чтобы уменьшить количество ложных предупреждений.
Наташа Торкзабан, окончившая школу в 2024 году, рассказала, что её осудили за то, что она отредактировала эссе своего друга, потому что в нём были слова «психическое здоровье».
«Я думаю, что в идеале нам не стоило бы внедрять новое блестящее решение в виде искусственного интеллекта для решения глубоко укоренившейся проблемы подросткового психического здоровья и уровня самоубийств в Америке, но именно к этому мы сейчас и стремимся», — сказала Торкзабан.
Она была в числе студентов-журналистов и художников из старшей школы Лоуренса, которые на прошлой неделе подали
иск против школьной системы, утверждая, что система Gaggle подвергала их неконституционной слежке.
Руководство школы заявило, что серьёзно относится к опасениям по поводу Gaggle, но также отметило, что эта технология выявила десятки случаев непосредственной угрозы самоубийства или насилия.
«Иногда приходится идти на компромисс ради общего блага», — заявила член Совета по образованию Энн Костелло на заседании совета в июле 2024 года.
Спустя два года после пережитых испытаний Матис сказала, что её дочери стало лучше, хотя она всё ещё
«боится» столкнуться с одним из школьных инспекторов, которые её арестовали. По её словам, единственным светлым пятном было сочувствие учителей в альтернативной школе, где учится её дочь. Они каждый день находили время, чтобы без осуждения выслушать детей и узнать об их чувствах и разочарованиях.
«Как будто мы хотим, чтобы дети были маленькими солдатиками, но это не так, — сказала Матис. —
Они просто люди"