Líderes da área de segurança cibernética instam os EUA a suspenderem restrições aos modelos da Anthropic

Líderes de cibersegurança de grandes empresas norte-americanas, incluindo Nvidia ‌e Adobe, pediram ao governo Trump que suspenda as restrições aos modelos de IA mais poderosos da Anthropic, argumentando que as proibições dificultam os esforços para impedir a disseminação de ataques digitais.

A carta surge na sequência da decisão de Washington, na sexta-feira, que ordenou à Anthropic a suspensão do acesso aos seus modelos Fable 5 e Mythos 5 para quaisquer cidadãos estrangeiros, devido a preocupações ⁠de segurança nacional.

Notícias relacionadas

Como Tesla e Edison disputaram a Guerra das Correntes e decidiram como a eletricidade chega às nossas casas hoje no mundo atual

Instagram e Facebook caíram? Usuários relatam queda dos aplicativos nas redes sociais

Minha experiência após dois meses com o Galaxy Fold 7: por que não quero mais voltar para um smartphone tradicional

Após ter alertado anteriormente sobre as capacidades de hacking de seu modelo Mythos e ‌tê-lo retido de um lançamento amplo para evitar possíveis danos, a Anthropic lançou na semana passada uma versão pública chamada Fable, com o que descreveu como salvaguardas de segurança cibernética.

As restrições que ‌Washington impôs à tecnologia limitarão a capacidade da indústria de ‌segurança cibernética de encontrar e corrigir falhas de software em um momento em que outras ⁠ferramentas de IA estão facilitando a exploração de vulnerabilidades por hackers, de acordo com uma carta assinada no domingo por mais de 50 líderes de segurança.

A carta afirmava que os modelos da Anthropic não eram os únicos capazes de encontrar falhas de segurança e explorar vulnerabilidades, sendo que modelos concorrentes, incluindo o Kimi 2.7 da China, ofereciam capacidades semelhantes.

"O Mythos é quase certamente o melhor ‌modelo atualmente para encontrar falhas e códigos de segurança, mas é como um avanço incremental em relação ‌a outros modelos que já ⁠estão disponíveis", disse Joshua Saxe, ⁠CTO da empresa de segurança de IA Abundant Security e um dos signatários da carta, em entrevista.

CORDA BAMBA

Membros ⁠seniores da equipe da Anthropic têm uma reunião agendada ‌com autoridades governamentais no Departamento de ‌Comércio dos EUA, em Washington, na segunda-feira, informou à Reuters um funcionário do governo Trump.

A Anthropic afirmou que o governo acredita haver uma maneira de contornar, ou "quebrar", uma salvaguarda que impede o uso do Fable para identificar vulnerabilidades de software. Argumentou que um potencial "jailbreak" limitado ⁠não deveria ser motivo para cortar o acesso a um modelo usado por centenas de milhões de pessoas.

A carta reiterou esse ponto, afirmando que a Anthropic já construiu proteções robustas e que a retirada dessas capacidades poderia ser "perigosa", visto que os modelos de código aberto da China estão apenas alguns meses atrás dos melhores modelos norte-americanos, e ‌Pequim provavelmente tem acesso a capacidades além daquelas que são publicamente conhecidas.

Qualquer regulamentação precisa ser baseada em evidências, claramente definida e aplicada de forma consistente, e "nenhum desses padrões foi seguido aqui", ⁠disse Alex Stamos, outro signatário que atua como diretor de produtos da Corridor.

"Esta é uma reação exagerada do governo", disse ele, acrescentando que houve uma disputa entre a Anthropic e a terceira parte que levantou a questão sobre a gravidade das conclusões, com base em suas conversas com os envolvidos.

A empresa de cibersegurança CrowdStrike na semana passada disse que hackers ligados à China representaram a maior ameaça de espionagem para empresas de tecnologia no último ano.

A empresa de IA avaliada em US$965 bilhões, que está se preparando para abrir seu capital, já teve desentendimentos com o governo dos EUA sobre o acesso aos seus modelos e o impacto deles na segurança nacional.

No início deste ano, o governo Trump ordenou que as agências americanas parassem de trabalhar com a Anthropic e a declarou um risco para o fornecimento de sua tecnologia, devido à sua relutância em permitir que ela fosse usada para vigilância em massa e armas autônomas.