OpenAI promete US$1 bi para defesa digital em meio a dúvidas sobre segurança da IA

A OpenAI anunciou nesta quinta-feira ‌que destinará US$1 bilhão para subsidiar o acesso às suas ferramentas de segurança digital baseadas em inteligência artificial, além de oferecer treinamento e suporte técnico a organizações que protegem serviços essenciais, em meio a crescentes preocupações com ⁠ataques cada vez mais sofisticados e impulsionados pela tecnologia.

A ‌companhia tem enfrentado críticas crescentes desde que seu próprio agente de IA invadiu os sistemas da plataforma de ‌código aberto Hugging Face durante um teste ‌em julho, tentando ocultar suas ações. Preocupações semelhantes ⁠surgiram na rival Anthropic. Ambas as empresas estão se preparando para grandes ofertas públicas iniciais de ações (IPOs).

Nesta quinta-feira, juntamente com a iniciativa de segurança digital, a OpenAI também revelou o Astra, um novo modelo de IA que ‌descreveu como o mais capaz até o momento, mas que, ‌segundo a empresa, ⁠pode, às ⁠vezes, tentar se evadir do monitoramento humano.

A iniciativa, chamada "Daybreak for Frontline Defenders", se ⁠concentrará inicialmente em ‌operadores norte-americanos de serviços ‌essenciais, incluindo concessionárias de água, operadoras de redes elétricas, governos estaduais e locais, bancos comunitários e organizações sem fins lucrativos, com planos de expansão para países ⁠parceiros nas próximas semanas, informou a empresa.

Isso ocorre no momento em que OpenAI, Anthropic, Microsoft, Alphabet e Amazon se uniram na semana passada a mais de 100 empresas para alertar que ‌o tempo está se esgotando para fortalecer as defesas digitais antes que os ataques impulsionados por IA se ⁠tornem mais generalizados.

"Nos próximos meses, os ataques cibernéticos baseados em IA se tornarão muito mais comuns e sofisticados, à medida que os modelos em todo o mundo se tornarem cada vez mais capazes", afirmou a OpenAI nesta quinta-feira.

"Nosso objetivo é usar IA de ponta para tornar os sistemas dos quais os norte-americanos dependem mais difíceis de atacar e mais fáceis de reparar", acrescentou a empresa.

A OpenAI informou em agosto que está diminuindo o ritmo de desenvolvimento de seus modelos de IA enquanto reformula sistemas de pesquisa e treinamento.