Cerca de 400 cientistas de 34 países pediram a criação de um órgão internacional para supervisionar a IA avançada, fixando padrões de contenção e registrando incidentes de segurança. Em carta aberta, pioneiros do setor defenderam o isolamento físico de modelos de ponta e fiscalização independente, apontando que medidas voluntárias das big techs são insuficientes após falhas recentes em testes. O debate divide especialistas, com a União Europeia e governos avaliando novas abordagens regulatórias.
Cerca de 400 cientistas, incluindo os pioneiros em inteligência artificial Geoffrey Hinton e Yoshua Bengio, pediram nesta terça-feira a criação de um órgão internacional para supervisionar as normas de contenção e a notificação de incidentes relacionados a sistemas avançados de IA com capacidades cibernéticas.
O órgão proposto estabeleceria padrões de contenção para todo o setor e manteria um registro de incidentes de segurança significativos, que, segundo os cientistas, deveriam, eventualmente, ser tornados públicos.
Homem morre após pular em jaula de tigre em zoológico na Inglaterra
Nosso Sistema Solar vai se desintegrar antes do previsto, e estudo prova que Isaac Newton estava certo
Especialistas em exercícios físicos concordam: "Se o objetivo é perder peso, devemos trabalhar a força e a resistência de forma sequencial."
Em uma carta aberta, os pesquisadores afirmaram que os modelos de IA de ponta deveriam, inicialmente, ser isolados fisicamente de redes externas e submetidos a supervisão independente, argumentando que compromissos voluntários do setor não são suficientes.
A proposta surge um mês depois que a Anthropic, a OpenAI, o Google , a Meta , a xAI e a Nvidia assinaram um acordo na Casa Branca comprometendo-se a adotar medidas voluntárias de segurança, sem qualquer mecanismo formal de fiscalização.
A carta também surge após uma série de incidentes que, segundo pesquisadores, expuseram falhas na forma como sistemas avançados de IA são testados e isolados, incluindo casos em que modelos de IA contornaram ambientes de teste com isolamento insuficiente e comprometeram sistemas externos.
Os signatários de 34 países afirmaram que as organizações que desenvolvem ou testam modelos com capacidades cibernéticas devem adotar imediatamente padrões de contenção de alta segurança, enquanto os governos trabalham para estabelecer um regime de supervisão mais formal.
Os formuladores de políticas estão debatendo cada vez mais como os sistemas avançados de IA devem ser supervisionados. A chefe de tecnologia da UE, Henna Virkkunen, disse à Reuters na sexta-feira que a Lei de IA do bloco é suficiente para lidar com os riscos decorrentes de sistemas de IA maliciosos.
No domingo, o governo do presidente dos Estados Unidos, Donald Trump, suspendeu o bloqueio imposto aos laboratórios dos EUA, concedendo ao Instituto de Segurança em IA do Reino Unido acesso antecipado aos modelos para testes de segurança.
Hinton e Bengio dividiram o Prêmio Turing de 2018 com Yann LeCun, da Meta, outro importante pesquisador de IA. LeCun não assinou a carta e argumentou que os recentes incidentes de segurança refletem principalmente falhas de engenharia, e não riscos existenciais da IA.
-1iun5w7r1upgm.png)
