Empresas chinesas usaram Claude para melhorar seus próprios modelos, diz Anthropic
Três empresas chinesas de inteligência artificial usaram o Claude para obterem indevidamente recursos para melhorarem seus próprios modelos, disse a criadora do chatbot, Anthropic, nesta segunda-feira, após uma divulgação semelhante feita pela OpenAI no início deste mês.
A OpenAI alertou parlamentares dos Estados Unidos que a startup chinesa de inteligência artificial DeepSeek está visando a companhia e as principais empresas de IA norte-americanas para replicar modelos e usá-los para seu próprio treinamento, mostrou um memorando visto pela Reuters.
"Não esperávamos por isso": drone ucraniano revelou arsenal russo em depósito e a surpresa foi enorme, os mísseis são monstruosos
Vamos emburrecer se confiarmos cegamente nas histórias criadas pela IA, diz Marcelo Gleiser
Após anos de monopólio de Japão e EUA, a China agora também consegue fabricar a fibra de carbono mais preciosa do planeta
DeepSeek, Moonshot e MiniMax criaram mais de 16 milhões de interações com o Claude usando cerca de 24 mil contas falsas, violando os termos de serviço e as restrições de acesso regional da Anthropic, disse a empresa.
As companhias chinesas usaram uma técnica chamada "destilação", que envolve fazer com que um modelo de IA mais antigo, mais estabelecido e poderoso avalie a qualidade das respostas geradas por um modelo mais novo, transferindo efetivamente os aprendizados do modelo mais antigo, disse a Anthropic.
"Essas campanhas estão crescendo em intensidade e sofisticação. A janela para agir é estreita e a ameaça se estende além de qualquer empresa ou região."
A operação da DeepSeek visava capacidades de raciocínio em diversas tarefas e a criação de alternativas à censura para consultas sensíveis a políticas, enquanto a Moonshot visava o raciocínio agêntico e o uso de ferramentas, bem como codificação e análise de dados.
A MiniMax tinha como alvo a codificação agêntica, o uso de ferramentas e a orquestração, e a Anthropic detectou a campanha enquanto ela ainda estava ativa — antes que a MiniMax lançasse o modelo que estava treinando.
"Quando lançamos um novo modelo durante a campanha ativa d MiniMax, eles mudaram de rumo em 24 horas, redirecionando quase metade do tráfego para capturar os recursos do nosso sistema mais recente", disse a Anthropic.
Representantes da DeepSeek, Moonshot e MiniMax não responderam imediatamente a pedidos de comentários.
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
