China reforça regras para evitar perda de controle da IA
A China tem ampliado suas normas de segurança para inteligência artificial visando conter o risco de perda do controle humano sobre sistemas autônomos. Alinhado a alertas de líderes do setor, o governo chinês incluiu ameaças existenciais em suas diretrizes e impôs regras rígidas para desenvolvedores monitorarem e bloquearem desvios em agentes de IA. A iniciativa reflete o foco de Pequim na soberania nacional e na rivalidade com os EUA, pautando o tema na agenda bilateral entre os países.
Pequim passou a incluir explicitamente cenários de perda de controle sobre sistemas de inteligência artificial e visa fortalecer suas normas de segurança e a supervisão humana.Alertas feitos por pesquisadores da empresa americana de inteligência artificial (IA) Anthropic sobre a possibilidade de modelos avançados escaparem ao controle humano e, em cenários extremos, representarem uma ameaça à própria humanidade ganharam destaque na China, onde formuladores de políticas públicas vêm se preparando para lidar com riscos semelhantes.
Apesar da corrida para desenvolver sistemas cada vez mais poderosos, marcos regulatórios e declarações oficiais de Pequim mostram que as autoridades chinesas consideram suficientemente séria a possibilidade de a IA avançada escapar à supervisão humana para incorporá-la aos seus planejamentos de segurança.
Reguladores destacam risco de perda de controle
A China passou a mencionar explicitamente cenários de perda de controle sobre sistemas de inteligência artificial em uma estrutura de segurança divulgada em setembro de 2024 sob orientação da Administração do Ciberespaço da China (CAC).
O documento afirmava que não poderia ser descartada a possibilidade de futuros sistemas de IA obterem recursos externos de forma autônoma, desenvolverem autoconsciência e buscarem fontes externas de poder, criando riscos de competição com seres humanos.
Em setembro de 2025, a CAC divulgou uma versão ampliada da estrutura regulatória. O novo texto tornou o cenário mais específico, afirmando que a IA poderia passar por um salto repentino de capacidade antes de adquirir recursos, se replicar e buscar o poder. O documento também incorporou o princípio de "aplicação confiável" e da prevenção da perda de controle.
Posteriormente, uma interpretação técnica publicada no site do regulador afirmou que a nova diretriz busca reduzir riscos de perda de controle que possam ameaçar a sobrevivência e o desenvolvimento da humanidade, mencionando inclusive a possibilidade de uma IA "sair do controle".
Xi defende supervisão humana permanente
A preocupação também passou a aparecer nas mais altas instâncias políticas chinesas.
Durante aConferência Mundial de Inteligência Artificial realizada em julho, em Xangai, o presidente chinês, Xi Jinping, afirmou que as autoridades devem monitorar atentamente tanto os riscos inerentes à tecnologia quanto os seus efeitos indiretos.
Segundo Xi, a inteligência artificial deve permanecer "sempre sob controle humano".
O principal diplomata chinês para assuntos de IA, Sun Xiaobo, afirmou em reunião das Nações Unidas no mês passado que o país está acelerando estudos sobre uma legislação mais ampla para a inteligência artificial.
Já o vice-representante permanente da China na ONU, Sun Lei, pediu neste mês que os governos abordem com cautela o uso militar da IA para evitar erros de cálculo estratégicos e uma corrida armamentista.
As discussões ganham peso em um momento em que Xi Jinping deve se reunir com o presidente dos Estados Unidos, Donald Trump, em Washington ainda neste mês. A governança e a segurança da inteligência artificial estão entre os temas previstos para a agenda bilateral.
Enquanto autoridades chinesas enfatizam riscos ligados à segurança nacional, à espionagem e à proteção de infraestrutura crítica, o debate nos Estados Unidos tem sido marcado também por preocupações com cenários de perda de controle e riscos existenciais associados a sistemas superinteligentes. O presidente-executivo da Anthropic, Dario Amodei, já alertou para a velocidade que classificou como "imprudente" do avanço da tecnologia. O presidente-executivo da OpenAI, Sam Altman, afirmou concordar com essa avaliação.
Pequim cria regras específicas para agentes de IA
A China também começou a transformar esses princípios em exigências regulatórias voltadas aos chamados agentes de IA, sistemas capazes de atuar com maior autonomia e realizar tarefas mais complexas do que chatbots convencionais.
Em maio, o regulador chinês do ciberespaço publicou diretrizes conjuntas específicas para esse tipo de tecnologia.
As normas exigem que desenvolvedores ampliem sua capacidade de identificar, interromper, bloquear e corrigir comportamentos inadequados dos agentes.
As orientações apontam como riscos relevantes o envenenamento de dados, a manipulação de algoritmos, vulnerabilidades de sistemas e a chamada "perda operacional de controle". O texto também determina que os usuários mantenham a autoridade final sobre decisões tomadas autonomamente pelos sistemas.
Embora a China não tenha adotado propostas como a presença de monitores independentes dentro de empresas de IA, modelo defendido por pesquisadores da Anthropic, suas normas permitem a contratação de avaliações externas de segurança e preveem auditorias realizadas por entidades independentes e pesquisadores especializados.
Concorrência com os EUA na mira
Em artigo publicado no domingo em um veículo governamental, o ministro da Segurança do Estado da China, Chen Yixin, afirmou que modelos avançados desenvolvidos nos Estados Unidos podem representar riscos à infraestrutura crítica de informação do país e defendeu o fortalecimento da segurança em inteligência artificial.
Chen também alertou que "forças hostis" estariam usando ferramentas de IA generativa para fabricar rumores políticos e disseminar informações prejudiciais à China. Segundo ele, esses grupos promovem "guerras de opinião pública" e "guerras cognitivas" que ameaçam a segurança política, institucional e ideológica do país.
O ministro afirmou ainda que a inteligência artificial se tornou "o principal campo de batalha da competição tecnológica global e uma nova arena da rivalidade estratégica entre grandes potências". Segundo ele, serviços de inteligência estrangeiros utilizam tecnologias como rastreamento automatizado de dados, mineração de informações e análise de perfis para coletar dados sensíveis, segredos comerciais e informações pessoais.
gq/md (Reuters, AFP, DPA)
---------
Não deixe que o algoritmo esconda as notícias. Se você valoriza o trabalho da nossa equipe para uma cobertura jornalística confiável, reserve um momento para nos selecionar como sua fonte preferida no Google clicando aqui. Marque o link da DW quando ele aparecer na lista para sempre ver nossas notícias verificadas primeiro.
A Deutsche Welle é a emissora internacional da Alemanha e produz jornalismo independente em 30 idiomas.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.