O que era para ser uma noite comum na escola Kenwood High, em Baltimore, nos Estados Unidos, virou um susto que expôs as fragilidades da vigilância automatizada. Um sistema de inteligência artificial confundiu um saco de salgadinho nas mãos de um estudante com uma arma de fogo e acionou a polícia.
Na última segunda-feira (20) à noite, Taki Allen estava com amigos do lado de fora da escola após o treino de futebol. Cerca de 20 minutos depois, policiais apareceram armados, caminhando em sua direção.
“Foram tipo oito carros de polícia parando na nossa direção. No começo, eu não sabia para onde eles estavam indo, até que começaram a andar em minha direção com armas, dizendo: ‘Deitem-se no chão’, e eu fiquei tipo: ‘O quê?'”, contou Allen à WBAL-TV 11 News.
Ele acrescentou: “Eles me fizeram ficar de joelhos, colocaram minhas mãos atrás das costas e me algemaram. Depois, me revistaram e descobriram que eu não tinha nada. Então, foram até onde eu estava e encontraram um saco de Doritos no chão”.
O jovem acrescentou que a polícia lhe disse que um detector de IA achou que seu pacote de salgadinhos era uma arma. “Eu estava apenas segurando um saco de Doritos – tinha duas mãos e um dedo para fora, e eles disseram que parecia uma arma”, complementou o jovem.
Segundo a WBAL-TV 11 News, no ano passado, as escolas de ensino médio do Condado de Baltimore começaram a usar um sistema que emprega IA para detectar possíveis armas, utilizando câmeras escolares existentes.
A Kenwood High informou que seus orientadores fornecerão apoio direto aos alunos envolvidos no incidente e também estão disponíveis para conversar com qualquer aluno que precise de apoio. Procurada, a Omnilert, a empresa do software de detecção de armas de IA, disse que não comenta sobre procedimentos internos da escola.
