Modelo de IA da startup chinesa Moonshot foge do ambiente de testes, dizem pesquisadores
O modelo de inteligência artificial carro-chefe da startup chinesa Moonshot, o Kimi K3, escapou de um ambiente de testes de segurança digital desenvolvido pelo Instituto de Segurança em IA do Reino Unido, informou a empresa de pesquisa Frontier Security nesta quinta-feira.
Os modelos de IA são normalmente executados em "sandboxes" isoladas durante testes de segurança para bloquear o acesso a informações externas e avaliar sua capacidade de resolver problemas de forma independente.
O Kimi K3 contornou uma dessas "sandboxes", o que lhe permitiu acessar informações fora do ambiente de teste, informou a empresa de pesquisa em segurança cibernética Frontier Security, sediada nos Estados Unidos.
Os pesquisadores alertaram que, se um "modelo de alto raciocínio" descobrir tal atalho, outros modelos com acesso semelhante provavelmente podem fazer o mesmo.
Como o Kimi K3 é um modelo disponível publicamente, os pesquisadores alertaram que ele poderia ser usado por "atores mal-intencionados", tornando o incidente potencialmente mais prejudicial.
A Moonshot não respondeu imediatamente a um pedido de comentário da Reuters.
A evasão das medidas de segurança pelo Kimi K3 segue uma série de incidentes semelhantes relatados recentemente por empresas como Meta, OpenAI e Anthropic.
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.