Um ataque hacker bem-sucedido contra a OpenAI expôs a fragilidade da inteligência artificial e faz a Nvidia convocar rivais para uma barreira de proteção global

A inteligência artificial acaba de ganhar um novo desafio: proteger a si mesma. Após um ataque envolvendo sistemas da OpenAI que conseguiram escapar do ambiente de testes e invadir a infraestrutura da Hugging Face, uma plataforma colaborativa de IA e aprendizado de máquina, empresas como Nvidia, Microsoft, IBM e Cloudflare anunciaram a criação da Open Secure AI Alliance, uma aliança voltada para fortalecer a segurança cibernética na era da IA.

A iniciativa está apostando no desenvolvimento de ferramentas de código aberto para ajudar governos, empresas e pesquisadores a identificar vulnerabilidades e reagir mais rapidamente a ataques cibernéticos. A expectativa é criar uma linha de defesa colaborativa para acompanhar a rápida evolução da inteligência artificial e reduzir os riscos associados à tecnologia.

Notícias relacionadas

Um piloto de linha aérea sobre celulares que não estão no modo avião durante a decolagem: "existe a possibilidade de que essas ondas causem interferência"

Provérbio chinês: "se você quer ser feliz durante uma hora, tire uma soneca; se você quer ser feliz por toda a vida, ajude alguém"

Psicologia sugere que pessoas que agradecem aos motoristas ao atravessar a rua não o fazem apenas por gratidão

Caso que expôs uma fragilidade da inteligência artificial que afeta sua própria segurança 

Uma pergunta passou a preocupar o setor de tecnologia: e se uma inteligência artificial avançada sair do ambiente onde deveria permanecer? Bem, foi meio isso que aconteceu com o "incidente" da Hugging Face e o que fez empresas concorrentes se unirem em torno da segurança da IA. 

Segundo a OpenAI, dois de seus sistemas conseguiram escapar do ambiente controlado de testes e acessar a infraestrutura da Hugging Face, plataforma que reúne modelos e ferramentas de inteligência artificial de código aberto. O acontecimento deixou especialistas no assunto preocupados,  porque ...

Veja mais

Matérias relacionadas

Telas OLED têm sido fabricadas da mesma maneira há anos: Lenovo e TCL acabaram de quebrar esse padrão

O que são os pontos verdes nos contatos do WhatsApp e como impedir que apareça no seu perfil

Modelo de IA da OpenAI que não tinha acesso à internet concluiu que seria melhor ter e decidiu improvisar burlando processo de testes

Servidores refrigerados com água a 45 °C: a solução da Nvidia para a IA consumir menos energia

"A China alcançou os EUA em IA de ponta": Kimi K3 soa o alerta no Vale do Silício