Líderes da OpenAI, Anthropic e Hugging Face discursarão no Conselho de Segurança da ONU sobre os riscos da IA escapar ao controle humano e ameaçar a segurança global. Sam Altman defenderá a criação de métricas para avaliar o avanço e a segurança da tecnologia. Presidido pela França e com a presença de EUA e China, o encontro debaterá o perigo de conflitos armados iniciados por algoritmos, em meio a diálogos entre potências para criar um sistema conjunto de notificação de ameaças de IA.
Executivos da OpenAI, da Anthropic e da Hugging Face farão uma apresentação ao Conselho de Segurança da ONU nesta quarta-feira, em meio a alertas de que tecnologias de IA cada vez mais poderosas poderiam, em breve, aprimorar-se sozinhas, escapar ao controle humano e ameaçar a segurança internacional.
O presidente-executivo da OpenAI, Sam Altman, o presidente-executivo da Anthropic, Dario Amodei, e o cofundador da Hugging Face, Clément Delangue, devem apresentar um relatório ao conselho de 15 membros durante a Assembleia Geral anual, que reúne líderes mundiais nas Nações Unidas.
Altman planeja instar os líderes mundiais a adotarem parâmetros de referência para medir as capacidades da IA e avaliar as medidas de segurança que as empresas implementam à medida que desenvolvem a tecnologia, disse um executivo da OpenAI a repórteres na terça-feira.
Os membros do conselho, incluindo os principais rivais em IA — os Estados Unidos e a China —, também devem se manifestar. O ministro das Relações Exteriores da França, Jean-Noël Barrot, presidirá a reunião.
Um diplomata europeu, falando sob condição de anonimato, disse que o principal objetivo da reunião é destacar os riscos práticos de a IA perder o controle de maneiras que afetem a segurança internacional e a segurança de cada país.
"Essas são questões que se enquadram perfeitamente no mandato do Conselho de Segurança", disse o diplomata. "A questão central é se um dia poderemos enfrentar uma situação em que algoritmos interagindo entre si desencadeiem uma guerra. Esse é realmente o cerne da questão."
Antes de uma reunião entre o presidente dos EUA, Donald Trump, e o líder chinês Xi Jinping, em Washington, na quinta-feira, os EUA e a China discutiram a criação de um sistema de notificação para objetivos e ameaças comuns que abrangeria incidentes relacionados à IA que atinjam o nível de segurança nacional.
