EUA e China se preparam para diálogo sobre segurança em IA em meados de setembro

PEQUIM, 4 Set (Reuters) - Os Estados Unidos e a China estão se preparando para discutir os riscos de segurança da inteligência artificial durante um diálogo planejado para meados ‌de setembro, disseram à Reuters duas fontes a par das discussões, em um momento em que as capacidades de IA de ponta, em rápido avanço, atingem um ponto de inflexão global.

As negociações, as primeiras discussões bilaterais oficiais dedicadas exclusivamente à IA entre os EUA e a China desde que o presidente norte-americano Donald Trump assumiu o cargo pela segunda vez, serão lideradas pelo secretário do Tesouro dos EUA, Scott Bessent, pelo lado norte-americano, disseram as fontes, que foram informadas sobre o planejamento, sob condição de anonimato.

A Reuters está divulgando pela primeira vez a previsão para meados de setembro. Trump e o presidente chinês, Xi Jinping, devem se encontrar em 24 de setembro durante uma cúpula em Washington.

Os EUA querem discutir a cooperação no monitoramento de ciberataques direcionados por IA e apresentaram uma proposta para solicitar que ⁠laboratórios de IA norte-americanos e chineses "se autorregulem" e compartilhem informações para prevenir ciberataques ligados à IA, disse uma das fontes sob condição de anonimato.

Quase 700 agentes de IA desonestos, construídos com base em modelos da OpenAI, ‌invadiram a startup de IA Hugging Face em julho e tentaram encobrir seus rastros falsificando registros, disseram a OpenAI e pesquisadores de segurança cibernética na semana passada, ressaltando os riscos de enxames de agentes coordenados agindo de forma autônoma por meses sem serem detectados por humanos.

Uma horda de agentes maliciosos da OpenAI sequestrou um site alemão nesta primavera e o transformou em um fórum para outros agentes de IA, ‌informou a Reuters com exclusividade nesta sexta-feira.

"As negociações entre as duas superpotências da IA estão acontecendo no momento mais crítico", ‌disse Paul Triolo, sócio do DGA-Albright Stonebridge Group. "É agora ou nunca."

Washington também está preocupado com o potencial de um futuro modelo chinês do nível do Mythos, com capacidade para realizar ciberataques, e ⁠quer abordar a alegada destilação, por parte da China, de modelos proprietários de IA dos EUA, disse a fonte.

A empresa de tecnologia norte-americana Anthropic é a desenvolvedora do Mythos.

Em junho, Michael Kratsios, principal assessor de ciência e tecnologia da Casa Branca, acusou a Moonshot AI, da China, de plagiarizar o modelo de IA da Anthropic, o Fable, para ajudar a criar sua versão K3, afirmando que a empresa chinesa simplesmente destilou o modelo da Anthropic.

A destilação é o processo de treinar modelos de IA menores usando a saída de modelos maiores e mais caros, como parte de um esforço para reduzir os custos de treinamento de uma nova e poderosa ferramenta de IA.

A Reuters está divulgando, pela primeira vez, detalhes da agenda proposta para as próximas negociações.

Do lado chinês, as negociações poderiam ser lideradas pelo vice-primeiro-ministro He Lifeng, o ‌homólogo de Bessent no que diz respeito ao protocolo, mas alternativas como o sétimo funcionário mais importante da China, Ding Xuexiang, podem ser consideradas, de acordo com a segunda fonte, que também falou sob condição de ‌anonimato.

Ding, um confidente de Xi e membro do poderoso Comitê Permanente ⁠do Politburo do Partido Comunista Chinês, composto por sete ⁠pessoas, coordena as políticas da China nas áreas de tecnologia, inteligência artificial e chips.

A Reuters não conseguiu determinar a localização ou a identidade dos outros participantes, embora Kratsios e o ministro da ciência e tecnologia da China, ⁠Yin Hejun, possam estar presentes nas negociações, acrescentou a segunda fonte.

A agenda final e os participantes ainda estão sujeitos a alterações, alertaram ‌as fontes.

A Casa Branca se recusou a comentar sobre as negociações ‌relativas à IA. Um porta-voz do Departamento do Tesouro dos EUA afirmou que os dois lados "podem se reunir em outubro" para discutir a tecnologia. O Departamento de Estado não respondeu ao pedido de comentário. Os ministérios das Relações Exteriores, da Ciência e da Indústria da China, assim como a Comissão Nacional de Desenvolvimento e Reforma e o órgão regulador do ciberespaço, não responderam imediatamente aos pedidos de comentário.

Na terça-feira, Kratsios disse a repórteres na Carolina do Norte que teve uma reunião "ótima" com Yin à margem de uma cúpula de inovação do G20 nos EUA nesta ⁠semana. Bessent disse que teve conversas "limitadas" sobre IA com autoridades chinesas na reunião de finanças do G20 desta semana.

Durante a mesma cúpula de inovação, os EUA instaram os membros do G20 a adotarem uma postura de não intervenção na regulamentação da IA e a evitarem a criação de regras específicas para a tecnologia. A China assinou os Princípios da Carolina, um acordo que visa desencorajar o desenvolvimento de regulamentações específicas para IA, numa rara demonstração de alinhamento tecnológico com os EUA.

O gabinete de Kratsios não respondeu de imediato ao pedido de comentários.

ALTA IMPORTÂNCIA

Autoridades chinesas têm reiteradamente enfatizado a importância das negociações sobre inteligência artificial em reuniões preparatórias com seus homólogos norte-americanos e as consideram um dos principais resultados da cúpula entre os líderes ‌EUA e China, de acordo com duas fontes e uma terceira familiarizada com o assunto. A Reuters está noticiando esse desenvolvimento pela primeira vez.

Na última semana, o órgão regulador do ciberespaço da China alertou publicamente sobre os "riscos extremos de perda de controle da IA" e um blog afiliado à mídia estatal criticou a Anthropic, enfatizando que quaisquer limites à IA de ponta devem se aplicar ⁠igualmente aos modelos chineses e norte-americanos. Empresas chinesas revelaram nos últimos meses o que descrevem como produtos semelhantes ao Mythos.

O ex-executivo da Microsoft, Craig Mundie, emergiu como um importante intermediário nos bastidores, sondando seus homólogos chineses sobre as propostas americanas para o diálogo sobre IA, disse a fonte. Mundie é co-presidente do canal não oficial de diálogo EUA-China sobre IA (Track II).

A Reuters noticiou no mês passado que a Microsoft havia cultivado uma relação com Pequim que estava entre as mais profundas de qualquer empresa de tecnologia estrangeira operando na China.

Ambos os lados também discutiram as diretrizes de IA em um diálogo de Nível 1.5 em Pequim na semana passada, escreveu nas redes sociais o ex-primeiro-ministro australiano Kevin Rudd, um dos participantes.

Em junho, Trump assinou uma decreto sobre IA que estabelece uma estrutura voluntária para revisões de segurança cibernética prévias ao lançamento de modelos de IA de ponta, mas os EUA não divulgaram os critérios para essas revisões.

Enquanto isso, funcionários de importantes laboratórios de IA dos EUA, incluindo a Anthropic e a OpenAI, defenderam a necessidade de "acompanhar a vanguarda" para gerenciar os riscos globais da IA avançada .

"O lado chinês expressou preocupação sobre se os EUA possuem regulamentação suficiente em relação aos modelos de IA mais avançados. Ambos os lados estão motivados a garantir que possam gerenciar uma crise transfronteiriça de forma eficaz", disse Scott Singer, codiretor da Iniciativa de IA da China na Fundação Carnegie para a Paz Internacional.

Embora os resultados provavelmente sejam limitados, abrir um canal onde ambos os lados possam compartilhar falas e monitorar conjuntamente incidentes de segurança relacionados à IA seria um ponto de partida importante, disse Samm Sacks, pesquisadora sênior da New America, um think tank de políticas públicas dos EUA.

"Estamos num ponto de inflexão em que agentes de fronteira podem causar danos massivos quando não monitorados. Tanto os EUA quanto a China estão vulneráveis. Isso vai além da rivalidade geopolítica", acrescentou Sacks.

"Os Estados Unidos e a China precisam se unir de alguma forma, ou ambos sairemos perdendo."