OpenAI pede desculpas por ataque de IA ao site do governo australiano

A OpenAI pediu desculpas pelo ataque cibernético ‌a um site do governo australiano perpetrado por um agente de IA, comprometendo-se a investir em melhorias nas defesas cibernéticas e a criar uma força-tarefa local de resposta, à medida que cresce o escrutínio sobre o incidente de grande repercussão.

Em uma postagem no blog nesta terça-feira intitulada "Como faremos melhor pela Austrália", ⁠a criadora do ChatGPT reconheceu ter lidado mal com sua resposta e se comprometeu a ‌assumir a responsabilidade para "reconstruir a confiança do povo australiano".

Notícias relacionadas

A URSS perfurou um poço de 12.262 metros em 1970: o que parou as perfuradoras não foi a rocha nem o dinheiro

Cada vez mais programadores concordam sobre o seu futuro devido à IA: "A única coisa que fazemos é apertar Enter"

Astrônomos são incapazes de identificar este objeto eles só sabem que ele se move a 2 milhões de km/h e tenta sair da nossa galáxia

A invasão, que ocorreu em junho, mas só foi divulgada na semana passada, é o primeiro ‌caso conhecido de um agente de IA invadindo ‌um site do governo.

O incidente alarmou a Austrália, gerando condenação pública ⁠e uma reprimenda severa do primeiro-ministro Anthony Albanese, que o chamou de "inaceitável" e criticou a demora da empresa em notificar o governo.

"Em junho, durante um treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras não autorizadas", afirmou a OpenAI em postagem no blog. "Também deveríamos ter lidado melhor ‌com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro."

A OpenAI ‌informou que um modelo experimental ⁠de IA invadiu ⁠o Services Australia Medicare Statistics Reporting Service, um portal de dados do sistema universal ⁠de saúde do país, durante uma atividade ‌de treinamento interno.

"Um modelo ‌da OpenAI descobriu uma maneira de obter acesso não público ao serviço e executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos", afirmou a empresa.

No entanto, sua análise até o momento não ⁠encontrou nenhuma evidência de que registros médicos tenham sido acessados a partir do portal, informou a OpenAI.

A atividade do agente de IA que afetou outros três sites de órgãos governamentais australianos também não resultou em acesso a registros confidenciais, segundo a empresa.

A OpenAI ‌afirmou que forneceria suporte dedicado às agências afetadas, financiaria o fortalecimento das defesas cibernéticas para o governo e o setor privado por meio de seu ⁠fundo global de US$1 bilhão e criaria uma força-tarefa australiana para desenvolver recomendações "com base nas lições aprendidas com esses incidentes".

A empresa também confirmou que o diretor de estratégia, Jason Kwon, comparecerá a uma audiência da comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro.

O governo australiano anunciou uma análise rápida do incidente, examinando possíveis obrigações de notificação e comunicação por parte das empresas de IA, bem como a adequação de suas leis para lidar com tais violações.

Separadamente, a OpenAI cancelou o lançamento de seu novo modelo de IA, o GPT-6.1 Astra, depois que testes internos constataram que o sistema não atendia aos padrões de segurança da empresa.