Osegi
Bezpieczeństwo·2 min czytania

Omnilert: torebka Doritos wywołała alarm AI i pozew uczniów

Czterech uczniów z hrabstwa Baltimore skuto kajdankami po tym, jak system AI uznał paczkę Doritos za broń. Alarm odwołano po dwóch minutach, policja i tak przyjechała.

A school security camera mounted on a building outside a high school football field at dusk.
Zdjęcie: Ars Technica

Cztery nastolatki dzieliły się chipsami Cool Ranch Doritos po treningu futbolu i czekały, aż rodzice odbiorą je do domu. Wtedy szkolny system Omnilert, który ma wykrywać broń za pomocą sztucznej inteligencji, uznał, że jeden z chłopców trzyma pistolet. Tak zaczyna się pozew przeciwko szkołom i policji w hrabstwie Baltimore.

W październiku 2025 roku urzędnicy Baltimore County Public Schools obejrzeli nagranie z kamery i w ciągu dwóch minut zobaczyli, że to paczka chipsów. Alarm odwołano, a informację dostali też policjanci. Mimo to, jak twierdzą uczniowie, na miejsce pojechało co najmniej sześć radiowozów z włączonymi światłami, a część funkcjonariuszy miała wyciągnięte pistolety. Chłopców ustawiono na kolanach na betonie, skuto kajdankami i przeszukano. Nikt nie powiedział im, o co są podejrzani.

Pozywają Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. i Keith Winfield III, obecni i byli uczniowie. Według pozwu jeden z policjantów mamrotał o „głupich kamerach AI”, inny miał powiedzieć: „Dzięki, że nie uciekliście, to byłby prawdziwy problem”. Uczniowie zarzucają naruszenie praw konstytucyjnych, czyli bezprawne zatrzymanie i przeszukanie. Domagają się zakazu używania Omnilert przez szkoły, dopóki nie powstaną procedury blokujące interwencję policji po fałszywym alarmie. Reprezentuje ich organizacja Lawyers’ Committee for Civil Rights Under Law.

Co ustaliła kontrola po incydencie?

Biuro Generalnego Inspektora ds. Edukacji (OIG) uznało, że system Omnilert nie był stronniczy. Wskazało jednak, że dyrektorka Kenwood High School, Kate Smith, zauważyła alert, nie zauważyła jego odwołania i po 15 minutach napisała do szkolnego policjanta, żeby wezwać patrol. W wiadomości przyznała, że przedmiot to „maybe not” broń. Według raportu nie przeszła szkolenia z obsługi systemu.

OIG zaleca szkolenia dwa razy w roku, przegląd procedur i zmniejszenie liczby osób dostających alerty. Radzi też korzystać z aplikacji Omnilert zamiast SMS-ów, w których łatwo przeoczyć wiadomość o odwołaniu.

Pozew podkreśla, że hrabstwo było jednym z pierwszych użytkowników Omnilert, a firma reklamuje system jako dający „prawie zero fałszywych alarmów”. Chłopcy mówią o bólu nadgarstków, lęku i plotkach o rzekomej broni. Taki Allen unika czekania na podwózkę przed szkołą i często wraca prywatnym przewozem.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:omnilertai gun detectionbaltimore countylawsuitschool safetyfalse positive

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: Bezpieczeństwo

Zobacz wszystkie →