IA confunde pacote de salgadinho com arma e leva adolescente a ser algemado nos EUA
Erro em sistema de detecção reacende debate sobre tecnologias de segurança em escolas
Um sistema de inteligência artificial (IA) usado para detectar armas em escolas dos EUA confundiu um pacote vazio de salgadinho com uma arma de fogo e resultou em uma abordagem policial armada contra um adolescente de 16 anos. As informações são da BBC.
O estudante Taki Allen aguardava sua carona após o treino de futebol quando policiais chegaram em oito viaturas, seguindo o alerta emitido pela IA. "Eles saíram com armas apontadas para mim, mandando eu deitar no chão", contou ao canal WMAR-2 News. O jovem foi colocado de joelhos, algemado e revistado.
Mitos desfeitos: como era viver com síndrome de down na Idade Média? Estudos revelam e a verdade não é nada do que imaginávamos
Hackeou o espaço: alemão fez o que a NASA não conseguiu e reativou satélite de 12 anos que a ciência havia dado como morto
A Geração Z está perdendo uma habilidade milenar da humanidade: a fluência comunicativa
A tecnologia, fornecida pela empresa Omnilert, enviou a notificação de suposta ameaça para revisão humana e, segundo a escola, a verificação constatou que não havia arma. No entanto, a direção chegou a acionar a polícia antes de a correção chegar a todos os responsáveis pela segurança.
Em nota, o Departamento de Polícia do Condado de Baltimore informou que atuou "de forma apropriada com base nas informações disponíveis naquele momento". O jovem foi liberado logo depois, sem registro de ocorrência.
A Omnilert disse lamentar o incidente, mas defendeu que "o processo funcionou conforme o esperado", ao priorizar uma reação rápida a um possível risco. A empresa afirmou que a detecção de armas em cenários reais "é complicada" e que seu sistema tem revisão humana justamente para evitar enganos.
Especialistas entrevistados pela BBC explicaram que sistemas de IA treinados para identificar objetos perigosos ainda enfrentam dificuldades em diferenciar formatos semelhantes, resultando em falsos positivos que podem gerar situações traumáticas.
Allen diz que agora evita ficar do lado de fora da escola após os treinos. Ele afirmou temer que um erro da IA se repita. "Não acho que nenhum saco de salgadinho deva ser confundido com uma arma", criticou.
