O modelo de inteligência artificial carro-chefe da startup chinesa Moonshot, o Kimi K3, escapou de um ambiente de testes de segurança digital desenvolvido pelo Instituto de Segurança em IA do Reino Unido, informou a empresa de pesquisa Frontier Security nesta quinta-feira.
Os modelos de IA são normalmente executados em "sandboxes" isoladas durante testes de segurança para bloquear o acesso a informações externas e avaliar sua capacidade de resolver problemas de forma independente.
O Kimi K3 contornou uma dessas "sandboxes", o que lhe permitiu acessar informações fora do ambiente de teste, informou a empresa de pesquisa em segurança cibernética Frontier Security, sediada nos Estados Unidos.
Os pesquisadores alertaram que, se um "modelo de alto raciocínio" descobrir tal atalho, outros modelos com acesso semelhante provavelmente podem fazer o mesmo.
Como o Kimi K3 é um modelo disponível publicamente, os pesquisadores alertaram que ele poderia ser usado por "atores mal-intencionados", tornando o incidente potencialmente mais prejudicial.
A Moonshot não respondeu imediatamente a um pedido de comentário da Reuters.
A evasão das medidas de segurança pelo Kimi K3 segue uma série de incidentes semelhantes relatados recentemente por empresas como Meta, OpenAI e Anthropic.
