A técnica inventada pelos japoneses para secar roupas em ambientes fechados de forma eficiente e rápida
Uma menina de 15 anos construiu um gerador por R$ 70 que fornece energia para casas isoladas: engenheiros confirmaram sua eficiência
Gerente de agência que recebia mais de R$ 40 mil por mês é demitido por ir ao cabeleireiro durante o expediente
Papel de IA chinesa em neutralização de IA que fugiu do contole mostra custo de proteção dos EUA
O uso de um modelo chinês de inteligência artificial por uma startup de Nova York para conter um agente de IA desenvolvido com tecnologia da OpenAI e que saiu do controle está alimentando o temor de que as restrições que impedem as empresas norte-americanas de IA de atuarem na área de segurança digital possam levar os clientes a optarem por seus concorrentes sediados em Pequim.
A startup atacada pelo agente de IA criado com tecnologia da OpenAI, a Hugging Face, informou que recorreu ao modelo de código aberto GLM-5.2 da Zhipu AI na semana passada para analisar os dados da invasão, depois que os principais modelos de IA dos EUA se recusaram a realizar a tarefa, incapazes de distinguir entre um defensor e um invasor.
A técnica inventada pelos japoneses para secar roupas em ambientes fechados de forma eficiente e rápida
Uma menina de 15 anos construiu um gerador por R$ 70 que fornece energia para casas isoladas: engenheiros confirmaram sua eficiência
Gerente de agência que recebia mais de R$ 40 mil por mês é demitido por ir ao cabeleireiro durante o expediente
Embora a violação tenha sido causada por um agente autônomo de IA que escapou da contenção, o incidente destacou como as empresas norte-americanas que enfrentam ataques eletrônicos impulsionados por IA podem ser limitadas pelos laboratórios de IA dos EUA, que restringem o acesso aos seus modelos mais avançados ou os projetam para recusar tarefas relacionadas a invasões por motivos de segurança.
Por exemplo, o modelo avançado Claude Fable 5, da Anthropic, encaminha consultas de segurança digital para um modelo mais antigo, enquanto o GPT-5.6 Sol, da OpenAI, possui proteções projetadas para bloquear trabalhos relacionados à segurança eletrônica.
"Estamos todos aprendendo que o sigilo não é a resposta e que todos os defensores (não apenas alguns selecionados) em todos os lugares precisam de modelos mais poderosos sem restrições, especialmente os abertos!", disse Clement Delangue, cofundador da Hugging Face, na rede social X.
O dilema para os principais desenvolvedores de modelos norte-americanos é que o trabalho defensivo de segurança costuma ser difícil de distinguir de ataques maliciosos. Em recentes violações envolvendo IA, os invasores enganaram os modelos, fazendo-os acreditar que estavam realizando um trabalho legítimo de defesa, o que deixou as empresas de IA receosas em flexibilizar as medidas de segurança, mesmo com os profissionais de segurança afirmando que essas restrições podem atrapalhar seu trabalho.
Por enquanto, as repercussões estão dando mais um impulso aos modelos chineses de código aberto, como o GLM-5.2, que estão ganhando força no Vale do Silício com recursos de programação e agentes que quase rivalizam com os da OpenAI e da Anthropic a um custo menor.
Pequim também vem utilizando cada vez mais o código aberto para se posicionar como uma alternativa aos EUA nessa corrida de alto risco, com a mídia estatal chinesa retratando cada vez mais a estratégia como uma resposta ao que chama de tentativa liderada pelos EUA de erguer uma "Cortina de Ferro da IA".
"Um regime de segurança que restringe defensores legítimos, enquanto modelos capazes permanecem disponíveis para os atacantes, cria uma desvantagem assimétrica", afirmou Lukasz Olejnik, consultor independente de tecnologia e pesquisador sênior visitante do Departamento de Estudos de Guerra do King's College London.
"Essa lacuna só vai se ampliar à medida que os modelos de código aberto se tornarem cada vez mais poderosos, sem contar com proteções ou restrições."
IMPORTÂNCIA DO CÓDIGO ABERTO
Quando questionada se as medidas de segurança estavam prejudicando o trabalho de segurança, a OpenAI citou uma publicação em rede social, enquanto a Anthropic não se manifestou.
A OpenAI afirmou na publicação feita na terça-feira: "Incluímos a Hugging Face no programa de acesso confiável e estamos apoiando suas equipes para que utilizem rapidamente os recursos de nossos modelos a fim de aprimorar suas defesas."
Para a Zhipu AI, com sede em Pequim, o endosso da Hugging Face contribui para o impulso que o GLM-5.2 vem ganhando desde seu lançamento no mês passado.
O modelo subiu rapidamente nos rankings de uso em plataformas para desenvolvedores, como o OpenRouter, e recebeu elogios de figuras que vão desde o presidente-executivo da Snowflake, Sridhar Ramaswamy, até o investidor de risco Marc Andreessen.
A Zhipu AI, que levantou cerca de US$4 bilhões em uma oferta de ações em Hong Kong no início deste mês, também viu suas ações dispararem quase nove vezes desde sua estreia em janeiro.
Ainda assim, alguns analistas alertaram na quarta-feira que o incidente não deve ser usado para promover a flexibilização das medidas de proteção dos EUA.
"As medidas de segurança digital nos modelos de ponta dos EUA estão criando uma oportunidade competitiva, mas a solução não é simplesmente removê-las", disse Shrenik Kothari, analista da Robert W. Baird.
"OpenAI, Anthropic e Google deveriam repensar a arquitetura de acesso em vez de abandonarem a segurança... Em outras palavras, mudar de uma camada de recusa única para todos para uma alocação controlada de recursos."
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.