Líderes da área de IA alertam ONU sobre riscos à segurança

Executivos ‌de três das principais empresas de inteligência artificial do mundo apresentaram um relatório ao Conselho de Segurança da ONU nesta quarta-feira, em meio a alertas de que sistemas de IA cada vez mais poderosos poderiam, em breve, se aperfeiçoar sozinhos, escapar do controle humano e representar uma ameaça à segurança internacional.

Entre os que se dirigiram ao conselho de 15 membros durante a reunião anual da Assembleia Geral estavam ⁠o presidente-executivo da OpenAI, Sam Altman, o presidente-executivo da Anthropic, Dario Amodei, e o cofundador da Hugging ‌Face, Clément Delangue, três dos executivos mais proeminentes do setor.

Notícias relacionadas

Família dos EUA bate recorde mundial com cinco gerações nascidas no mesmo dia e entra para o Guinness

'Não tem discussão': arquipélago no Atlântico 'é francês', diz Macron em recado a Trump

Marco Rubio, secretário de Estado dos EUA, tenta se aproximar de Lula na Assembleia da ONU

"Se mal administrada, acredito até que a IA possa ser um risco para a humanidade como um todo", afirmou Amodei, da Anthropic, ao Conselho ‌de Segurança.

Governos têm se debatido com a questão de como ‌supervisionar sistemas de IA que avançam mais rápido do que os órgãos reguladores conseguem acompanhar, enquanto ⁠os Estados Unidos e a China -- os dois principais atores no desenvolvimento da IA -- permanecem divididos sobre eventuais limites globais à tecnologia ou se ela deve ser deixada, em grande parte, às forças de mercado.

"Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco. Elas devem ser moldadas por meio de processos democráticos e por governos que prestem ‌contas ao povo que servem", disse Altman ao conselho. "No âmbito internacional, isso exigirá cooperação."

"Ao longo da nossa ‌história, houve momentos em que países ⁠que competem entre si e ⁠nem sempre se dão muito bem ainda assim se uniram por interesses comuns e pelo bem coletivo diante de ⁠uma nova tecnologia poderosa. Acreditamos que este deve ser ‌um desses momentos", disse ele.

Yoshua Bengio, ‌canadense considerado um dos "padrinhos da IA" e copresidente do Painel Científico Internacional Independente, criado pela Assembleia Geral da ONU no ano passado, disse ao Conselho de Segurança: "Os perigos são reais e iminentes."

"Este conselho enfrenta uma ameaça sem precedentes, que nenhum de seus membros escolheria, que ninguém pode ⁠conter sozinho e que não respeita as fronteiras que defendemos", afirmou.

Às vésperas de uma reunião entre o presidente dos EUA, Donald Trump, e o líder chinês Xi Jinping, em Washington, na quinta-feira, os EUA e a China discutiram a criação de um sistema de notificação para objetivos e ameaças comuns, que abrangeria incidentes relacionados à IA que atinjam o ‌nível de segurança nacional.

Trump disse aos líderes mundiais na Assembleia Geral da ONU na terça-feira que "rejeita qualquer tentativa de construir um esquema globalista para controlar" a IA, descrevendo a tecnologia como incrível, mas ⁠observou que os EUA devem agir com cautela.

"Estamos muito à frente da China e de todos os outros, e vamos manter essa vantagem", disse Trump. "Não vou sufocar o crescimento de algo que será maior do que a Revolução Industrial."

"Vamos incentivá-la, não contê-la. Vamos acompanhá-la de perto por meio do Departamento de Justiça", disse.

O secretário-geral da ONU, António Guterres, que vem defendendo uma governança global para a IA, alertou que o rápido avanço da inteligência artificial apresenta riscos que não podem ser ignorados, o que o coloca em desacordo com Trump.

O Conselho de Segurança se reuniu pela primeira vez para discutir os riscos da IA em 2023, quando a China afirmou que a tecnologia não deveria se tornar um "cavalo fora de controle" e os Estados Unidos alertaram contra seu uso para censurar ou reprimir pessoas. O então secretário de Estado dos EUA, Antony Blinken, presidiu uma reunião do Conselho de Segurança sobre IA em 2024.