'Inaceitável': premiê australiano critica OpenAI após IA infiltrar site do governo

A ferramenta de inteligência artificial tentou acessar um portal de estatísticas de saúde em junho e "não aceitou um não como resposta", ao contornar as restrições para invadir uma seção que hospedava arquivos privados, revelou Albanese na quarta-feira (23). A OpenAI só alertou o governo australiano neste mês, ao enviar um e-mail com os detalhes do incidente para um endereço genérico que só é verificado "uma vez por dia", segundo Canberra.

A preocupação mundial com a autonomia dos modelos avançados de IA aumentou após uma série de incidentes de hackeamento que envolveram "agentes" tanto da OpenAI quanto de sua concorrente Anthropic.

Notícias relacionadas

Família dos EUA bate recorde mundial com cinco gerações nascidas no mesmo dia e entra para o Guinness

Marco Rubio, secretário de Estado dos EUA, tenta se aproximar de Lula na Assembleia da ONU

'Não tem discussão': arquipélago no Atlântico 'é francês', diz Macron em recado a Trump

"Hoje conversei com o CEO da OpenAI, Sam Altman, para expressar a profunda preocupação da Austrália com relação a esse incidente", declarou Albanese, acrescentando que também criticou o tempo que a empresa levou para informar o governo sobre o ocorrido. "Não houve qualquer notificação até 10 de setembro, e a notificação foi um e-mail enviado apenas para a caixa de entrada pública."

A ferramenta de IA acessou arquivos públicos e restritos hospedados em um antigo site de estatísticas de saúde. Albanese destacou que "não há evidência" de que informações pessoais tenham sido acessadas e que outros serviços do governo não foram comprometidos. "Esta situação, no entanto, é obviamente inaceitável", concluiu.

Segundo o ministro da Defesa, Richard Marles, o sistema de IA extrapolou os limites previstos para sua atuação ao tentar acessar informações que não haviam sido disponibilizadas. A Austrália iniciou uma investigação sobre o incidente, com a participação da agência nacional de inteligência responsável pela cibersegurança.

O incidente ocorreu em junho, quando a OpenAI realizou exercícios de treinamento para avaliar o desempenho de seus modelos de IA. A empresa pediu ao modelo que rastreasse a internet em busca de dados sobre os gastos do governo australiano com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher. A OpenAI afirmou que só detectou a atividade não autorizada em agosto, quando revisou as ações realizadas pela ferramenta de IA.

Investigação

A OpenAI afirmou que detectou a falha durante uma "revisão exaustiva" de seus modelos de IA. "Durante a revisão, identificamos atividade relacionada a vários sites e serviços do governo australiano, uma vez que nossos modelos tentaram buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna", informou a empresa em comunicado. "Nossos modelos realizaram ações que não pretendíamos", admitiu a empresa americana.

Altman e outros executivos do setor de tecnologia participaram na quarta-feira de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da IA. Mais de 100 organizações em todo o mundo, incluindo OpenAI e Anthropic, assinaram uma carta aberta conclamando a um esforço global para "reforçar as defesas" cibernéticas contra as ameaças à segurança causadas pela IA.

Isso ocorreu depois que dois modelos da OpenAI escaparam de um ambiente fechado de testes e invadiram sistemas internos da Hugging Face, plataforma usada por desenvolvedores de IA para armazenar e compartilhar códigos. A Anthropic também descobriu recentemente que seus agentes haviam obtido acesso não autorizado a três organizações não identificadas durante testes que, supostamente, deveriam mantê-los afastados desses sistemas.

Com AFP