Um sistema de IA confundiu um pacote de Doritos com uma arma em uma escola do condado de Baltimore, nos Estados Unidos, e provocou uma abordagem policial a quatro adolescentes. Estudantes e ex-alunos processam o distrito escolar, a polícia local e a empresa responsável pela tecnologia.
O episódio ocorreu em outubro de 2025, na Kenwood High School. A ação pede indenização e a interrupção do uso do sistema até que os treinamentos e protocolos de segurança sejam aprimorados.
Como o alerta de IA levou à abordagem em Baltimore
O Omnilert AI Gun Detection System enviou um alerta indicando que um estudante aparentemente portava uma arma. O objeto era uma embalagem de salgadinho.
Policiais cercaram o grupo com armas em punho, detiveram os quatro adolescentes e revistaram um deles. Imagens de câmeras corporais registraram a abordagem e o momento em que os agentes perceberam que se tratava de um pacote de Doritos.
Após a confirmação de que não havia arma, o Departamento de Segurança e Proteção Escolar revisou a ocorrência e cancelou o alerta.
O que os estudantes alegam e como a empresa responde
A ação judicial acusa o distrito escolar, a polícia e a Omnilert de busca e apreensão sem justificativa, prisão indevida, privação ilegal de liberdade e negligência, entre outras alegações.
Um porta-voz da Omnilert afirmou que a imagem encaminhada à equipe da empresa se parecia com uma arma e foi enviada em segundos à segurança das escolas para avaliação. Segundo a companhia, o evento foi marcado como resolvido instantes depois.
A empresa sustentou que o sistema funcionou como projetado ao identificar uma possível ameaça e encaminhá-la para análise humana. A então superintendente das escolas, Myriam Rodgers, também defendeu o procedimento, dizendo que o alerta permitiu a verificação por pessoas.
O vereador do condado de Baltimore homem criticou a aproximação dos policiais com armas em punho diante de um pacote de salgadinhos.
Entenda a tecnologia
- Onde e quando: na Kenwood High School, no condado de Baltimore, em outubro de 2025.
- Principais informações: um alerta confundiu uma embalagem de Doritos com uma arma; quatro adolescentes foram detidos e um deles, revistado.
- Próximos desdobramentos: a ação pede indenização e a suspensão do sistema até a melhoria dos treinamentos e protocolos de segurança.
Texto: Redação / Tribuna Livre Brasil.