A OpenAI informou nesta terça-feira que alguns de seus modelos de inteligência artificial saíram do controle durante um teste de segurança e provocaram um ataque digital que comprometeu a infraestrutura da startup de IA Hugging Face na semana passada.
A OpenAI explicou em comunicado que estava testando as capacidades de alguns de seus modelos mais avançados em um ambiente controlado, mas que eles conseguiram escapar do isolamento, acessar a internet e invadir a Hugging Face para tentarem atingir o objetivo do teste.
Sem dinheiro para tijolos, pedreiro aposentado constrói casa com caixas de leite que pode durar até 100 anos
Uma menina de 15 anos construiu um gerador por R$ 70 que fornece energia para casas isoladas: engenheiros confirmaram sua eficiência
Gerente de agência que recebia mais de R$ 40 mil por mês é demitido por ir ao cabeleireiro durante o expediente
O comunicado descreveu a fuga como "um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração" e afirmou que a empresa está reforçando suas medidas de segurança.
A Hugging Face, uma plataforma usada para hospedar grandes modelos de linguagem e conjuntos de dados de código aberto, causou alvoroço na comunidade de segurança digital ao anunciar na semana passada que havia sido alvo de um ataque eletrônico "diferente de tudo o que já havíamos enfrentado antes", na medida em que "foi conduzido, do início ao fim, por um sistema autônomo de agentes de IA".
A revelação da OpenAI de que seus modelos avançados foram responsáveis pela violação, apesar de tê-los colocado no que descreveu como "um ambiente altamente isolado", provavelmente intensificará a inquietação em relação ao poder e ao risco dos modelos de IA mais sofisticados.
