Osegi
Безопасность·2 мин чтения

Omnilert: пачка Doritos вызвала ложную тревогу ИИ и иск

В округе Балтимор четырёх школьников заковали в наручники после того, как ИИ принял пачку Doritos за оружие. Тревогу отменили за две минуты, но полиция всё равно приехала.

A school security camera mounted on a building outside a high school football field at dusk.
Фото: Ars Technica

Четверо старшеклассников делили чипсы Cool Ranch Doritos после тренировки по футболу и ждали, когда за ними приедут. Школьная система распознавания оружия Omnilert на основе ИИ решила, что у одного из них в руках пистолет. Теперь подростки подали в суд на школьный округ, полицию и саму компанию.

В октябре 2025 года сотрудники Baltimore County Public Schools посмотрели запись с камеры и меньше чем за две минуты поняли, что это пачка чипсов. Тревогу отменили, и об этом узнала в том числе полиция. Тем не менее, как говорится в иске, приехали минимум шесть патрульных машин с мигалками, а часть полицейских достала оружие. Ребят поставили на колени на бетон, надели наручники и обыскали. Что им вменяют, никто не объяснил.

Истцы — Таки Аллен, Юи-Оса Огбеиде, Девон Томпсон-младший и Кит Уинфилд III. По их словам, один полицейский бормотал про «тупые ИИ-камеры», другой сказал: «Спасибо, что не побежали, это была бы настоящая проблема». Школьники утверждают, что их незаконно задержали и обыскали, нарушив конституционные права. Они просят запретить округу пользоваться Omnilert, пока не появятся правила, исключающие вызов полиции после ложной тревоги. Их представляет некоммерческая организация Lawyers’ Committee for Civil Rights Under Law.

Что показала проверка?

Управление генерального инспектора по образованию (OIG) пришло к выводу, что система Omnilert не была предвзятой. Но директор Kenwood High School Кейт Смит увидела оповещение, не заметила отмену и через 15 минут написала школьному полицейскому, чтобы тот вызвал патруль. В сообщении она сама признала, что предмет «maybe not» оружие. По данным отчёта, обучения работе с системой она не проходила.

OIG рекомендует проводить обучение дважды в год, пересмотреть протокол и сократить число получателей оповещений. Также советуют перейти на приложение Omnilert: в SMS сообщение об отмене легко пропустить.

В иске напоминается, что округ был одним из первых клиентов Omnilert, а компания обещает «почти нулевое число ложных срабатываний». Подростки жалуются на следы от наручников, тревогу и слухи об оружии. Таки Аллен теперь часто ездит домой на частном такси, вместо того чтобы ждать у школы.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:omnilertai gun detectionbaltimore countylawsuitschool safetyfalse positive

Ещё за этот день

Показать все →

Ещё в рубрике: Безопасность

Показать все →