Startup de IA processa governo dos EUA após pressão do Pentágono

Anthropic recorre à Justiça contra sanção da Casa Branca após negar uso de tecnologia para armas autônomas e vigilância de americanos. Ferramenta estaria sendo usada na guerra no Irã.Sancionada pelo governo de Donald Trump nos Estados Unidos após impor restrições ao uso militar de sua tecnologia - que, segundo relatos, estaria auxiliando o Pentágono em sua guerra contra o Irã -, a empresa de inteligência artificial (IA) Anthropic acionou a Justiça contra a medida.

Em petição protocolada nesta segunda-feira (09/03), a Anthropic afirma que a designação da startup pela Casa Branca como um "risco à cadeia de suprimentos" é ilegal e viola sua liberdade de expressão e direitos processuais.

Notícias relacionadas

O mundo inteiro sonha com a semana de 4 dias, mas a Alemanha acaba de tomar uma decisão radical: a única saída é trabalhar mais

Ex-namorada de Vorcaro contrata assessoria e advogado e faz questão de se desvincular do banqueiro

Mulher de Moraes nega ter recebido mensagem de Vorcaro e enfraquece argumento do ministro

Trata-se da primeira empresa americana a receber tal punição, normalmente reservada a firmas de países estrangeiros adversários, como a gigante chinesa de tecnologia Huawei.

A Anthropic é dona do Claude, concorrente direta do ChatGPT, e tem em sua cartela de clientes gigantes como Google, Meta, Amazon e Microsoft. O Claude é o modelo de IA de ponta mais amplamente usado pelo Pentágono e o único modelo desse tipo atualmente operando nos sistemas do Departamento de Defesa que lidam com informações confidenciais.

A sanção havia sido imposta na última quinta-feira (05/03) pelo secretário de Defesa americano, Pete Hegseth, depois que a Anthropic se recusara a liberar o uso de sua tecnologia de IA para armas autônomas e "vigilância em massa de americanos" - duas coisas que, segundo a empresa, já eram vetadas por contrato.

"Hoje, os sistemas de IA de ponta simplesmente não são confiáveis o suficiente para operar armas totalmente autônomas", alegou o CEO da Anthropic, Dario Amodei, em nota divulgada no final de fevereiro. "Não forneceremos conscientemente um produto que coloque em risco os combatentes americanos ou civis."

Amodei também ressaltou à época concordar com o uso legal de IA em "missões de inteligência e contrainteligência" visando alvos estrangeiros, mas que, no caso da "vigilância doméstica em massa", isso é "incompatível com valores democráticos" e oferece "sérios riscos" às "nossas liberdades fundamentais [segundo a Constituição americana]".

A Anthropic alega que a sanção da Casa Branca pode lhe fazer perder bilhões de dólares em receita e prejudicar sua reputação.

Quem tem a última palavra sobre o uso de IA?

A queda de braço travada entre a Casa Branca e a startup vinha se arrastando há meses e estourou dias antes da ofensiva de EUA e Israel contra o Irã, deflagrada em 28 de fevereiro. Horas antes do primeiro bombardeio, Trump anunciou, via redes sociais, que o governo inteiro deixaria de usar tecnologia da Anthropic.

"Os lunáticos de esquerda na Anthropic cometeram um erro desastroso ao tentar intimidar o Departamento de Guerra [Pentágono] e obrigá-lo a obedecer aos seus Termos de Serviço em vez de à nossa Constituição", queixou-se Trump na ocasião.

A batalha tem sido vista como um teste dos poderes do governo americano sobre empresas, e sobre quem tem a última palavra sobre o uso de IA - se o Estado ou a própria desenvolvedora da tecnologia.

Após a Anthropic acionar a Justiça americana, um grupo de empregados do Google e da OpenAI apresentou à corte uma carta de apoio à startup, argumentando que uma eventual vitória da Casa Branca na disputa poderia desencorajar um debate aberto sobre os riscos e benefícios da IA.

"Estamos unidos na convicção de que os sistemas de ponta de IA hoje têm riscos quando usados para permitir a vigilância doméstica ou a operação de sistemas de armas letais autônomas sem supervisão humana, e de que tais riscos demandam algum tipo de salvaguarda", afirmam os empregados, que dizem expressar suas visões pessoais e não falar em nome de suas empresas.

Impactos da sanção

Apesar da ação na Justiça, representantes da Anthropic afirmaram estar abertos a negociar com o governo americano. O Pentágono não se pronunciou sobre o assunto, mas uma porta-voz da Casa Branca citada pela BBC acusou a Anthropic de ser uma "empresa woke, radical de esquerda" tentando controlar os militares.

A designação de "risco à cadeia de suprimentos" põe em risco os contratos da Anthropic com o governo, e o desfecho dessa disputa pode influenciar como outras empresas de IA negociam restrições sobre o uso militar de suas tecnologias.

Na prática, as ferramentas da Anthropic deixam de ser consideradas seguras o bastante para uso pelos órgãos de governo e por empresas terceiras que prestem serviços à Casa Branca.

Amodei, no entanto, declarou na quinta-feira que a sanção tinha "um escopo limitado" e que o uso de ferramentas da Anthropic estaria liberado em projetos não relacionados ao Departamento de Defesa.

Só o Departamento de Defesa assinou no ano passado contratos no valor de até 200 milhões de dólares cada com grandes empresas de IA, como Anthropic, OpenAI e Google.

Logo após Hegseth sancionar a Anthropic, a OpenAI anunciou um acordo com o Departamento de Defesa para o uso de sua tecnologia. O CEO da companhia, Sam Altman, afirmou que o Pentágono compartilhava dos princípios da empresa, no sentido de garantir a supervisão humana de sistemas de armas e oposição à vigilância em massa de americanos.

ra/cn (Reuters, AFP, ots)