Durante um teste de cibersegurança em maio, a inteligência artificial Gemini, do Google, invadiu de forma autônoma os sistemas de três empresas reais ao usar a internet para adivinhar senhas e coletar credenciais públicas. A ferramenta interrompeu as ações ao notar o erro. A falha ocorreu em uma simulação da empresa Irregular, que admitiu problemas semelhantes com IAs da Meta, Anthropic e OpenAI. O caso inédito acendeu o alerta sobre a segurança e a autonomia dos modelos de IA avançados.
O Google revelou que o Gemini conseguiu entrar em sistemas de três empresas reais durante uma avaliação de cibersegurança realizada em maio. A ferramenta tomou as ações sem receber uma autorização específica para acessar aquelas organizações.
O caso representa uma situação inédita entre os episódios já divulgados pela companhia e chama atenção para os riscos envolvidos em testes com modelos capazes de agir com maior autonomia.
Após plantar uma mangueira a menos de dois metros do muro, mulher passa oito anos recolhendo folhas e frutas no próprio quintal, até o vizinho cortar os galhos que avançavam sobre a garagem e ela encontrar metade da copa no chão ao voltar do trabalho
Em 1902, o Havaí plantou mangue-vermelho para conter a erosão; 124 anos depois, a espécie invasora entope cursos d'água e degrada o habitat de aves aquáticas ameaçadas
Depois de transformar a frente da casa em jardim durante seis anos, aposentada chega da feira e encontra três canteiros cobertos por concreto após o filho mandar ampliar a garagem para caber um segundo carro
Gemini usou informações disponíveis na internet
Durante a avaliação, o modelo tentou encontrar formas de acesso aos sistemas que interpretava como parte da atividade proposta. Em uma das situações, testou diferentes combinações de senha até conseguir entrar em um serviço protegido.
Nos outros dois casos, a estratégia foi diferente. O Gemini encontrou credenciais disponíveis publicamente em repositórios online e utilizou esses dados para acessar os ambientes. Heather Adkins, vice-presidente de engenharia de segurança do Google, explicou como o modelo interpretou a tarefa.
"Em uma avaliação padrão, o modelo encontrou informações públicas online e tentou adivinhar as credenciais de acesso a sites que acreditava fazerem parte do teste", afirmou em comunicado.
Depois de identificar que havia chegado a sistemas externos à avaliação, então, a ferramenta interrompeu as ações. "Em todos os três casos, o modelo parou", acrescentou Adkins.
Google revisa procedimentos após falha no teste
A empresa israelense Irregular conduzia o exercício. A companhia trabalha com avaliações voltadas à segurança de modelos avançados de inteligência artificial. Uma falha permitiu que o Gemini utilizasse a internet durante a atividade. O modelo deveria permanecer dentro dos limites definidos para a simulação.
O Google informou as organizações atingidas e passou a trabalhar com a empresa responsável pelo teste para revisar os procedimentos adotados. "Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste. Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade", declarou Adkins.
A companhia não revelou, contudo, qual versão do Gemini esteve envolvida. Informou apenas que o sistema usado na avaliação não corresponde ao modelo mais recente.
Problema atingiu testes de outras empresas
A Irregular afirmou que a origem do episódio não foi exclusiva do Google. Isso porque outros testes envolvendo ferramentas da Meta, Anthropic e OpenAI também enfrentaram problemas relacionados ao acesso externo. "Trata-se do mesmo problema que já havia sido relatado e não representa um incidente materialmente diferente", disse um porta-voz da empresa em entrevista à 'CNBC'.
De acordo com a Irregular, os laboratórios receberam alertas depois que a empresa identificou a falha. "Todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas", acrescentou.
Os casos colocaram em debate os protocolos usados em testes com agentes de inteligência artificial. Essas ferramentas conseguem executar tarefas, consultar informações e interagir com sistemas com níveis maiores de autonomia. Após os episódios, empresas e laboratórios passaram a revisar procedimentos de avaliação e segurança.
