Chinesa Z.ai diz que novo modelo se aproxima do Mythos 5, da Anthropic

A startup chinesa de IA Z.ai anunciou nesta sexta-feira que seu ‌modelo de código aberto GLM-5.3 se aproximou do Mythos 5, da Anthropic, na identificação de vulnerabilidades de software, reforçando as credenciais de uma concorrente chinesa no campo da inteligência artificial que vem ganhando força entre os desenvolvedores ocidentais.

A Z.ai informou que o GLM-5.3 obteve 84,5% no CyberGym, um teste que avalia se um modelo é capaz de analisar código, identificar falhas de segurança e confirmar que elas são reais. Esse resultado foi ligeiramente superior aos 83,8% relatados para o Mythos 5. Os resultados ainda não foram verificados de forma independente.

O GLM-5.3 ficou atrás do ⁠Mythos 5 na conversão de falhas descobertas em ataques efetivos — uma parte padrão da pesquisa de segurança defensiva. A Z.ai informou que seu modelo obteve ‌54,4% no teste ExploitBench para essa capacidade, contra 78,0% do Mythos 5.

Em um teste cronometrado separado, a Z.ai informou que o GLM-5.3 concluiu 105 tarefas de desenvolvimento de ataques em duas horas e 130 em seis horas. O Mythos 5 concluiu 181 e 247 tarefas, respectivamente.

A Anthropic ‌disponibilizou o Mythos — uma versão de seu modelo Claude Fable 5 com as proteções ‌de cibersegurança removidas — exclusivamente para organizações previamente avaliadas. Esses controles refletem a preocupação de que sistemas de IA capazes de identificar e ⁠explorar falhas de software possam auxiliar defensores, mas também possam reduzir barreiras para invasores.

A Z.ai informou que lançará o GLM-5.3 publicamente em cerca de duas semanas, após concluir as avaliações de segurança e reforçar suas proteções. Suas funções de segurança cibernética mais sensíveis estariam disponíveis apenas para usuários verificados por meio de um programa de "acesso confiável", afirmou a empresa.

Em uma postagem na rede social X nesta sexta-feira, a empresa escreveu que o acesso inicial ao modelo será compartilhado com um grupo seleto de parceiros de lançamento, que posteriormente será ampliado "por meio de um processo consistente e ‌responsável", ecoando a linguagem do esquema de acesso limitado "Project Glasswing" da Anthropic para o Mythos.

"Pelo que sei, esta é a primeira vez que um laboratório ‌chinês justifica publicamente o adiamento do lançamento aberto ⁠dos pesos do modelo com base ⁠em considerações de segurança", disse Gabriel Wagner, pesquisador de governança de IA da Concordia AI, uma consultoria com sede em Pequim focada em segurança de IA.

"Isso mostra ⁠que as práticas de gestão de risco relacionadas a pesos abertos na China estão ‌se tornando mais sofisticadas."

A empresa informou ter ‌adicionado várias camadas de proteção ao GLM-5.3, incluindo sistemas para filtrar solicitações de risco, monitorar o funcionamento do modelo e treiná-lo para rejeitar tarefas maliciosas.

Segundo a empresa, essas medidas foram projetadas para distinguir atividades prejudiciais de usos legítimos, como correção de bugs, ensino de segurança cibernética ou testes de segurança autorizados.

Mas os críticos afirmam que essas salvaguardas se tornam mais difíceis de aplicar assim que um ⁠modelo é lançado para que outras pessoas possam baixá-lo, alterá-lo ou combiná-lo com ferramentas externas.

DESAFIANDO O MITO DO CÓDIGO FECHADO

A Z.ai apresentou o lançamento como um desafio ao modelo de acesso restrito representado pelo Mythos. A empresa argumenta que ferramentas avançadas de defesa cibernética deveriam estar disponíveis para desenvolvedores de software de código aberto e equipes de segurança menores, em vez de serem controladas por um número limitado de fornecedores de modelos fechados.

A empresa afirmou que dará início a uma iniciativa chamada "Open Source Shield" ‌para auditar projetos de código aberto selecionados, fornecer acesso a modelos para trabalhos defensivos e adicionar funções de auditoria de código ao seu produto de programação ZCode.

"Nesse espírito, a Z.ai parece estar propondo uma espécie de 'Projeto Glasswing' com características chinesas, que vê a abertura como um ⁠trunfo, e não como uma desvantagem", disse Wagner, referindo-se ao consórcio de empresas ocidentais com acesso ao Mythos.

A Hugging Face, startup de IA sediada em Nova York, informou no mês passado que utilizou o modelo anterior da Z.ai, o GLM-5.2, para se defender contra um ataque cibernético perpetrado por um agente de IA da OpenAI que invadiu seus sistemas.

A Z.ai não é a primeira empresa chinesa a posicionar um produto como resposta ao Mythos. A empresa de segurança cibernética 360 afirmou em junho que seu sistema de detecção de vulnerabilidades Tulongfeng havia alcançado capacidades equivalentes às do Mythos ao combinar modelos de IA com dados de segurança e ferramentas automatizadas, embora essas alegações não tenham sido verificadas de forma independente.

O GLM-5.3 se diferencia por ser um modelo de codificação de uso geral que, segundo a Z.ai, adquiriu capacidades de segurança cibernética por meio de um pós-treinamento ampliado e de aprendizado por reforço, em vez de ser um sistema de segurança desenvolvido especificamente para esse fim. A empresa afirmou ter utilizado o mesmo modelo base do GLM-5.2, mas o treinou em ambientes de tarefas mais longos e variados.

O lançamento aproveita o interesse global pelo GLM-5.2, que ganhou destaque nos últimos meses entre desenvolvedores internacionais por seus recursos de codificação e de agentes, que, segundo usuários e analistas, se aproximavam dos principais modelos dos EUA, mas a um custo muito menor.