Pesquisadores revelaram que agentes de IA da OpenAI invadiram contas e sondaram vulnerabilidades na plataforma Hugging Face em maio, dois meses antes de um grande ciberataque sofrido pela empresa em julho. Especialistas apontam que a falha da OpenAI em conter a ação autônoma de seus sistemas na época foi uma oportunidade perdida de evitar violações posteriores. O caso intensificou debates e alertas de especialistas sobre a urgência de desacelerar o avanço da IA para priorizar a segurança.
Agentes de inteligência artificial da OpenAI invadiram contas de usuários do Hugging Face e vasculharam o próprio site em busca de vulnerabilidades dois meses antes da invasão aos sistemas do repositório de software de código aberto em julho, segundo pesquisadores que analisaram a atividade.
A OpenAI já havia divulgado um aspecto da atividade, o roubo das credenciais digitais de um usuário do Hugging Face para acessar um arquivo relacionado à biologia, em seu relatório público de incidentes no mês passado, mas pesquisadores afirmaram que a atividade de sondagem contra o site pareceu ir além do que o relatório descrevia.
Psicólogos confirmam: pessoas com maior apego a seus animais de estimação desenvolvem mais sensibilidade e senso de responsabilidade
Em 2017, uma garota cavou um buraco no quintal para um projeto escolar; 9 anos depois, o buraco continua, mas o local está irreconhecível
Trabalhar em casa privou a Geração Z de algo que seus pais aprenderam sem perceber: agora, 80% admitem ter esse problema
O pesquisador independente Jonas Wiedermann-Moeller disse à Reuters que descobriu a atividade na semana passada. Ele afirmou ter encontrado evidências de que os agentes da OpenAI comprometeram duas contas de usuários do Hugging Face e as utilizaram para enviar arquivos com formatação incomum aos servidores da empresa já em 13 de maio.
Ele e outros pesquisadores que analisaram as evidências afirmaram que o comportamento se assemelhou a uma tentativa de mapear ou testar partes da rede da Hugging Face em busca de formas de infiltração, embora tenham enfatizado que não havia evidências de que a iniciativa tivesse resultado em uma violação efetiva. Tanto os pesquisadores quanto a OpenAI afirmaram não terem encontrado evidências de que essa sondagem anterior fizesse parte do incidente de julho.
O porta-voz da OpenAI, Drew Pusateri, disse que a empresa havia divulgado o evento de 13 de maio no relatório de incidente, notificado a Hugging Face em particular sobre a atividade sinalizada por Wiedermann-Moeller e estava "comprometida com a transparência sobre essas questões e com o compartilhamento do que aprendermos à medida que nossa análise continua".
A Hugging Face, que recentemente fez acordo para ser comprada pela fabricante de chips Nvidia, não comentou o assunto.
Wiedermann-Moeller, de 27 anos, que mora em Bielefeld, na Alemanha, disse que a falha da OpenAI em detectar a tentativa de invasão de 13 de maio naquele momento foi uma oportunidade perdida de impedir a campanha de hacking subsequente, que desencadeou uma reflexão global sobre o poder da inteligência artificial.
"Imagine se eles tivessem detectado esse comportamento em maio", disse ele em entrevista. "Isso poderia ter evitado o incidente posterior, que foi muito maior."
A OpenAI já havia afirmado anteriormente que, em retrospecto, "alguns sinais iniciais" de seus agentes de IA deveriam ter desencadeado uma resposta mais precoce.
"SINAL DE ALERTA CLARO"
Dois especialistas externos que analisaram as descobertas de Wiedermann-Moeller afirmaram que elas eram consistentes com atividades anteriormente associadas aos agentes da OpenAI.
Tom Hegel, pesquisador sênior de ameaças da SentinelOne, disse que o sequestro da conta e as tentativas de sondagem subsequentes corresponderam "perfeitamente" ao comportamento conhecido dos agentes, afirmando em seu próprio relatório sobre o incidente que os laboratórios de IA de ponta deveriam divulgar mais dados sobre incidentes em que os agentes "interagem com ou afetam sistemas de terceiros".
Sydney Von Arx, do Nightingale Collective, um grupo dedicado à segurança da IA, também concordou com a atribuição.
Von Arx disse que o ataque representou um "claro sinal de alerta" que poderia ter ajudado a evitar a violação ocorrida em julho.
A OpenAI tem enfrentado críticas cada vez maiores desde que a empresa divulgou, em 21 de julho, que agentes de IA rebeldes contornaram controles internos, acessaram a internet aberta e coordenaram ações que a companhia descreveu como "um incidente cibernético sem precedentes".
Desde então, pesquisadores externos identificaram incidentes adicionais que supostamente envolvem agentes ligados à OpenAI, incluindo atividades que afetaram um site wiki alemão inativo e o repositório de pacotes de software RubyGems.
A OpenAI reconheceu alguns desses incidentes somente depois que eles foram divulgados publicamente por terceiros. Duas fontes a par do assunto afirmaram que, no caso do RubyGems, os funcionários da OpenAI só perceberam que sua IA era responsável pela atividade maliciosa depois que o Nightingale Collective a descobriu.
Essas novas descobertas alimentaram questionamentos entre parlamentares e defensores da segurança da IA sobre se toda a extensão dos incidentes já foi identificada.
Desde então, alguns dos principais executivos de IA dos EUA têm pedido uma desaceleração no desenvolvimento da IA, citando, entre outras coisas, a ameaça de ataques por agentes fora de controle.
Wiedermann-Moeller disse que as últimas descobertas reforçaram os apelos por uma desaceleração temporária no desenvolvimento de sistemas avançados de IA.
"Uma pausa pode fazer bem ao mundo", disse ele, "para que a questão da segurança possa acompanhar o ritmo".
