IA da Anthropic envia denúncia falsa de homicídio a site de polícia nos EUA
Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio ao site da polícia da Filadélfia durante um teste automatizado. O departamento policial informou que a mensagem foi classificada como spam, descartada sem gerar investigações e que não houve invasão aos seus sistemas. A Anthropic notificou as autoridades, interrompeu os testes e prometeu divulgar um relatório sobre o caso. Pela lei local, o envio consciente de falsos relatos configura contravenção.
Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio por meio do site da polícia da cidade norte-americana da Filadélfia, informou o departamento.
A Anthropic notificou a polícia no início desta semana e afirmou que um processo de teste automatizado foi o responsável pelo envio, segundo a polícia.
Em setembro, a OpenAI, rival da Anthropic, pediu desculpas pelo ataque de sua IA contra um site do governo australiano, o primeiro caso conhecido de um agente de IA invadindo um site governamental.
O departamento de polícia da Filadélfia informou que a denúncia "foi marcada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para análise investigativa ou divulgação", e acrescentou que a Anthropic havia informado que a empresa pretendia publicar um relatório sobre o incidente nesta sexta-feira.
A Anthropic não respondeu imediatamente a um pedido de comentário.
A lei da Pensilvânia especifica que, em geral, é considerado contravenção penal uma pessoa fornecer, conscientemente, denúncias falsas às autoridades policiais. Isso inclui "informações relacionadas a um crime ou incidente quando a pessoa sabe que não possui informações relacionadas a tal crime ou incidente".
A Anthropic informou à polícia que o processo de testes foi interrompido após a descoberta do incidente.
A denúncia falsa foi enviada pelo site PhillyUnsolvedMurders.com (algo como AssassinatosNãoResolvidosdaFiladélfia) a respeito de um homicídio não solucionado. A denúncia, datada de 18 de julho deste ano, alegava ter sido feita por alguém que poderia ter informações sobre o caso, informou a polícia.
A polícia afirmou não ter nenhuma evidência de acesso não autorizado aos seus sistemas ou de comprometimento dos dados do departamento.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.