Como Anthropic diz que Claude foi manipulado para armas, espionagem e golpes

A companhia norte-americana de inteligência artificial Anthropic afirmou em um relatório de inteligência de ameaças divulgado na quinta-feira que vários agentes utilizaram seus produtos para atividades que vão desde o desenvolvimento de armas e operações ‌de espionagem eletrônica até vigilância e fraudes.

Aqui estão alguns dos casos mais notáveis descritos no relatório, conforme alegado pela Anthropic.

ARMAS CONVENCIONAIS

• DEFESAS AÉREAS DA CHINA E DE TAIWAN: A Anthropic afirmou que um agente sediado na China utilizou o chatbot Claude para desenvolver um pacote de software de guerra eletrônica e supressão de defesa aérea que classificava alvos e simulava interferência de radar. Durante o projeto, o agente alterou uma simulação para incluir 12 alvos em Taiwan, entre eles radares de alerta antecipado, baterias de mísseis Patriot e Tien Kung, bases aéreas e um bunker de comando. A Anthropic afirmou que informações das contas ligavam o agente a instituições de pesquisa chinesas, incluindo a Academia de Ciências Militares do Exército Popular de Libertação. A Anthropic baniu as contas ligadas ao agente.

O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic e que o governo defende que a inteligência artificial deve ser desenvolvida para o bem e se opõe à distorção dos fatos e às calúnias contra o país.

A China reivindica Taiwan como seu próprio território e nunca renunciou ao uso da força para colocar a ilha sob seu controle. Taiwan rejeita as reivindicações de soberania de Pequim.

• SISTEMA ANTITORPEDO CHINÊS: A Anthropic afirmou que outro agente sediado na China utilizou o Claude ⁠para ajudar a desenvolver especificações e software de controle de fogo para um sistema antitorpedos destinado à Marinha chinesa. O agente utilizou o Claude para elaborar uma proposta técnica de mais de 200 páginas, comparar o sistema com a tecnologia da Marinha dos EUA e simular análises técnicas hostis para aprimorar a proposta. "Avaliamos que o agente estava ‌associado a um fabricante da indústria de militar chinesa com o objetivo de produzir uma especificação de armas e uma proposta de aquisição para a Marinha do Exército Popular de Libertação", afirmou a Anthropic.

• PESQUISA CHINESA SOBRE ARMAS DE MICROONDAS: Um agente de inteligência na China utilizou o Claude para pesquisar armas de microondas de alta potência estrangeiras, identificar componentes e fornecedores e rastrear cadeias de suprimentos, afirmou a Anthropic. O agente buscou informações que pudessem ajudar na engenharia reversa das armas e no desenvolvimento de contramedidas, além de redigir relatórios confidenciais para funcionários de alto escalão do Partido Comunista Chinês, das Forças Armadas ou da segurança do Estado, informou ‌a empresa.

• DESENVOLVIMENTO DE MÍSSEIS NO IÊMEN: A Anthropic informou que um grupo de agentes mal-intencionados no norte do Iêmen utilizou o Claude para ajudar a desenvolver software para um foguete guiado, ‌um míssil balístico com alcance de mais de 2.000 quilômetros e uma variante de míssil que incorpora um veículo de planagem hipersônica. Os agentes utilizaram o Claude para programação, simulação e solução de problemas, inclusive após um teste com o foguete guiado que aparentemente falhou. A Anthropic afirmou não ter evidências ⁠de que eles tenham conseguido colocar em campo uma arma operacional. "Nossas salvaguardas bloquearam muitas de suas solicitações, mas não todas", disse a Anthropic.

A revelação ocorre no momento em que os houthis, alinhados ao Irã e que controlam a maior parte do norte do Iêmen, intensificaram os ataques à Arábia Saudita e à sua infraestrutura petrolífera. O relatório da Anthropic não identificou se os agentes da ameaça eram ou não houthis.

• ENXAME DE DRONES RUSSOS: A Anthropic afirmou que provavelmente agentes independentes baseados na Rússia usaram o Claude para desenvolver software para um enxame de drones de ataque autônomos com visão em primeira pessoa, incluindo orientação terminal, seleção de alvos e coordenação entre várias aeronaves.

Pequenos drones de ataque com visão em primeira pessoa (FPV) tornaram-se uma arma central na guerra na Ucrânia, onde Rússia e Ucrânia os têm empregado em grande escala para reconhecimento e ataques.

A Embaixada da Rússia em Washington não respondeu às perguntas sobre alegações específicas feitas pela Anthropic ou sobre o relatório como um todo.

• AQUISIÇÃO DE COMPONENTES PELA RÚSSIA: A Anthropic afirmou que um gerente de compras baseado na Rússia utilizou o Claude para identificar intermediários na China e em Hong Kong com o objetivo de adquirir produtos de fabricação europeia com possíveis usos militares e traçar rotas por meio de países terceiros que pudessem ocultar seu destino.Entre os itens ‌procurados estavam magnetômetros de fabricação alemã, wafers de chips fotovoltaicos de grau espacial e sistemas de oxigênio para aviação, segundo a Anthropic. A Rússia tem recorrido cada vez mais a intermediários e rotas comerciais alternativas para obter tecnologia estrangeira desde que os países ocidentais impuseram sanções abrangentes e restrições à exportação após a invasão da Ucrânia.

PESQUISA BIOLÓGICA

A Anthropic ‌detalhou cinco estudos de caso de pessoas que tentaram usar "nossos modelos de maneiras que poderiam apoiar o desenvolvimento ⁠de armas biológicas".

As tentativas incluíram esforços para obter a ajuda do Claude na elaboração de ⁠um pedido de subsídio para financiar pesquisas sobre a modificação do vírus da chikungunya em um local onde a Anthropic não oferece seus serviços. Em outro caso, também em um local onde a empresa não opera, o que exige que os usuários ocultem sua localização para utilizar os serviços, a Anthropic afirmou ter detectado esforços para pesquisar a gripe ⁠aviária altamente patogênica. Outros exemplos incluíram pesquisas relacionadas ao ortopoxvírus e a novos venenos e toxinas não transmissíveis, informou a Anthropic.

OPERAÇÕES ELETRÔNICAS

• OPERAÇÕES NA CHINA: A Anthropic afirmou que operadores de língua chinesa, provavelmente baseados em Changsha, ‌capital da província de Hunan, na China central, utilizaram o Claude em operações digitais contra cerca ‌de 50 organizações, incluindo redes de governos estrangeiros.O grupo, que segundo a Anthropic incluía dois estudantes universitários de Hunan, utilizou fluxos de trabalho impulsionados por IA para buscar vulnerabilidades de software até então desconhecidas, desenvolver formas de explorá-las e conduzir partes das invasões com supervisão humana limitada.

• COLETA DE INFORMAÇÕES PELA RÚSSIA: Um grupo de hackers supostamente realizou operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos nos setores governamental, militar e diplomático da Ucrânia, utilizando IA em quase todas as etapas, afirmou a Anthropic.As técnicas do grupo eram consistentes com as do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de inteligência estrangeira russo SVR.

• RECONHECIMENTO NAVAL IRANIANO: A Anthropic informou ter identificado e neutralizado um operador ligado ao Irã que utilizava o Claude para coletar e analisar dados acessíveis ao público, a ⁠fim de desenvolver recomendações de alvos contra as forças navais dos EUA na região. O material compilado incluía uma lista de pessoal norte-americano extraída de legendas em fotografias militares públicas, identificadores de transponders de navios e aeronaves acessíveis ao público e scripts de consulta de imagens de satélite comerciais.

O operador também instruiu o Claude a compilar pesquisas sobre vulnerabilidades de software em sistemas de bordo relacionados a equipamentos de comunicação via satélite e outros equipamentos de comunicação, bem como produtos de controle industrial.

VIGILÂNCIA

• RECRUTAMENTO DE UIGURES NA SÍRIA: A Anthropic afirmou que um agente alinhado à China utilizou o Claude para rastrear e abordar uigures na Síria, incluindo pessoas consideradas financeiramente ou pessoalmente vulneráveis, e oferecer pagamento em troca de informações sobre unidades uigures que haviam se juntado ao exército recém-formado da Síria.Pequim considera os grupos armados uigures no exterior como organizações terroristas e há muito tempo cita o militância como justificativa para políticas de segurança direcionadas ao grupo étnico predominantemente muçulmano. A Anthropic avaliou, com baixo grau de confiança, que o operador era um contratado que trabalhava para a segurança do Estado chinês.

• VIGILÂNCIA RELIGIOSA E POLÍTICA CHINESA: A Anthropic afirmou que atores ligados à China ‌usaram o Claude para compilar informações de inteligência sobre alvos, incluindo cardeais católicos, líderes cristãos de Taiwan, budistas tibetanos, dissidentes e ativistas.

Em uma operação separada, o Claude foi usado para automatizar relatórios no estilo governamental que monitoravam uigures, tibetanos, figuras políticas de Taiwan, ativistas trabalhistas e estudantis e a mídia estrangeira, afirmou a Anthropic.

A China controla rigidamente a religião organizada e a dissidência política e tem sido acusada por governos ocidentais e grupos de direitos humanos de conduzir campanhas de vigilância e pressão contra críticos no exterior. Pequim rejeitou as acusações de repressão transnacional.

• VIGILÂNCIA COMERCIAL: A Anthropic informou que baniu uma conta que ⁠usava o Claude para criar uma plataforma de vigilância comercial destinada a analisar, classificar e traçar perfis das atividades dos usuários nas redes sociais no Irã e na região do Golfo. A Anthropic afirmou que suas descobertas corroboram uma investigação realizada em fevereiro de 2023 pela rede jornalística Forbidden Stories, que documentou um serviço oferecido por uma empresa chamada S2T Unlocking Cyberspace.

A Anthropic afirmou ter identificado a atividade em sua fase piloto e não ter encontrado evidências de que estágios posteriores da cadeia de vigilância da empresa tenham sido usados contra alvos reais antes que a conta fosse banida. A S2T não respondeu imediatamente a um pedido de comentário.

• PERFILAGEM IRANIANA: A Anthropic afirmou ter identificado um operador ligado ao Irã que utilizou o Claude para construir um sistema automatizado de inteligência de código aberto para a criação de perfis de identidade, visando indivíduos de órgãos governamentais e não governamentais israelenses, bem como organizações da diáspora judaica. Em uma linha de trabalho, segundo a empresa, o operador executou o programa contra uma lista de alvos pré-existente. O operador também buscou gerar produtos de inteligência de código aberto sobre cidadãos israelenses e norte-americanos, afirmou a Anthropic.

• VIGILÂNCIA INTERNA IRANIANA: A Anthropic afirmou ter identificado e banido 16 contas do Claude operadas por duas unidades ligadas a agências paramilitares e de segurança interna iranianas não identificadas. Uma das organizações, descrita pela Anthropic como uma entidade composta por sete departamentos com escritórios em todas as províncias do Irã, alegava manter um banco de dados de registros de identidade de cidadãos iranianos. A outra utilizava o Claude para desenvolver uma extensão maliciosa de navegador usada para coletar em massa identidades de usuários das principais plataformas de redes sociais.

Um pedido de comentário enviado aos representantes do governo iraniano nas Nações Unidas, em Nova York, não foi respondido imediatamente.

• VIGILÂNCIA DAS COMUNICAÇÕES NO MALI: A Anthropic afirmou que o Claude foi utilizado como principal ferramenta de engenharia para uma plataforma de vigilância doméstica criada para o serviço de inteligência estatal do Mali, capaz de monitorar dados associados a cerca de 25 milhões de cartões SIM das três operadoras de celular do país. A empresa afirmou que o sistema, chamado Lakana 360, parece ter sido desenvolvido em grande parte por um único consultor que trabalhava com a Agência Nacional de Segurança do Estado do Mali.

Um pedido de comentário enviado ao gabinete do primeiro-ministro do Mali não foi respondido imediatamente.

SEGMENTAÇÃO DE CAMPANHAS E PARTIDOS: A Anthropic afirmou ter observado um agente de língua francesa utilizando o Claude para segmentar 42 partidos políticos europeus, mídia, grupos de estudo e provedores de software como serviço (SaaS) utilizados por essas organizações.

O sistema do operador roubou dados e credenciais de login de vários serviços e compilou uma "plataforma de doxxing criada especificamente para esse fim", que poderia ser usada para coletar e expor diversas informações sobre inúmeras pessoas.

GOLPES

APLICATIVOS DE NAMORO BASEADOS EM IA: A Anthropic informou que uma operação sediada na China desenvolveu mais de 20 aplicativos de namoro contendo mais de 4.700 personas de IA que interagiram com pelo menos 25 mil usuários.

A operação combinava personas automatizadas com trabalhadores humanos remunerados para convencer os usuários de que os perfis eram genuínos, informou a empresa.