CEO da Anthropic exige freio ao desenvolvimento de IAs

Segundo ele, se nada for feito, agentes poderão realizar ataques em breve que causarão prejuízos de bilhões de dólares. Declaração do executivo teve apoio de Elon Musk e de CEO da OpenAI.Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude, defendeu neste sábado (12/09) uma desaceleração no desenvolvimento da inteligência artificial (IA), alegando que os avanços recentes da tecnologia exigem mais cautela por parte das empresas do setor. A declaração ocorre em meio ao aumento das preocupações sobre os riscos associados a sistemas considerados potencialmente "superinteligentes".

Em um texto publicado em seu site pessoal, Amodei afirmou que a indústria precisa reduzir o ritmo de aprimoramento dos modelos de IA para ganhar tempo na implementação de mecanismos de segurança. Segundo ele, deixar de desenvolver a tecnologia privaria a humanidade de seus benefícios, mas avançar rápido demais seria uma atitude irresponsável.

A posição representa uma mudança de tom do executivo, que já defendia uma abordagem intermediária entre acelerar e interromper o desenvolvimento da tecnologia. "Nos últimos meses, fiquei convencido de que enfrentar plenamente os riscos exige ainda mais prudência", escreveu.

As declarações foram reforçadas por outros líderes do setor. Sam Altman, CEO da OpenAI, empresa que desenvolve o ChatGPT, concordou que é necessário "dosar" o avanço da fronteira tecnológica, enquanto Elon Musk, dono da xAI, do Grok, afirmou que Amodei está correto. Mais de mil funcionários de empresas de ponta na área de IA também assinaram uma petição pedindo ao governo dos Estados Unidos medidas para desacelerar deliberadamente o desenvolvimento dos sistemas mais avançados.

O debate ganhou força após Jacob Coxon, pesquisador que trabalhou na OpenAI e depois na Anthropic, anunciar sua saída do setor. Segundo ele, as empresas estão "apostando com nossas vidas" ao competir pelo desenvolvimento de sistemas capazes de se aprimorar sem intervenção humana.

Coxon afirmou que muitos profissionais da área acreditam que a chamada "superinteligência", estágio teórico em que a IA supera a inteligência humana, pode representar riscos existenciais nas próximas décadas.

Casos recentes aumentam preocupação

As advertências surgem após uma série de episódios que evidenciaram usos potencialmente perigosos da inteligência artificial.

A Anthropic revelou recentemente que atores ligados ao governo do Irã utilizaram seu modelo Claude em atividades de vigilância, propaganda e planejamento de possíveis ataques contra interesses americanos. Segundo a empresa, a ferramenta foi usada para identificar alvos, processar grandes volumes de dados e monitorar dissidentes, jornalistas, ativistas e políticos.

A companhia também documentou outros casos envolvendo operações cibernéticas e projetos militares. Na Rússia, desenvolvedores usaram o Claude para criar software destinado a drones autônomos capazes de selecionar alvos sem decisão humana final. No Iêmen, grupos empregaram a ferramenta em projetos relacionados a foguetes guiados e mísseis de longo alcance.

Um dos casos mais alarmantes ocorreu no Mali, onde o sistema foi utilizado no desenvolvimento de uma plataforma de vigilância capaz de monitorar milhões de linhas telefônicas e identificar usuários por reconhecimento de voz. Já na França, a empresa identificou uma operação de desinformação que produziu milhares de notícias falsas em dezenas de idiomas com auxílio da IA.

A Anthropic afirma ter bloqueado diversas dessas atividades, mas alerta que sistemas cada vez mais autônomos estão reduzindo as barreiras técnicas e financeiras para ações que antes exigiam conhecimento especializado e recursos significativos.

Outra preocupação envolve o comportamento dos próprios modelos. Segundo a OpenAI, durante testes recentes alguns sistemas conseguiram escapar de ambientes controlados, conectar-se à internet e acessar plataformas externas usadas por desenvolvedores. Em outro episódio citado por Amodei, um conjunto de agentes de IA realizou ataques cibernéticos contra alvos que não faziam parte das tarefas originalmente designadas.

O executivo alertou que, mantido o atual ritmo de evolução tecnológica, enxames de agentes autônomos poderão, em um prazo de 6 a 12 meses, ser capazes de realizar operações em larga escala na internet, com potencial para causar prejuízos de centenas de bilhões de dólares.

Diante desse cenário, Amodei propõe que empresas adotem avaliações independentes de segurança antes do lançamento de novos modelos e trabalhem em padrões comuns de proteção. Ele também defendeu alguma forma de cooperação governamental para supervisionar o avanço da tecnologia.

Os Estados Unidos criaram em agosto um mecanismo voluntário de revisão de segurança para modelos avançados de IA antes de sua liberação ao público. Especialistas, porém, questionam a eficácia da iniciativa, já que o governo do presidente Donald Trump tem adotado uma postura regulatória mais flexível em relação ao setor de tecnologia.

fcl (Reuters, AFP, EFE, Lusa)

---------

Não deixe que o algoritmo esconda as notícias. Se você valoriza o trabalho da nossa equipe para uma cobertura jornalística confiável, reserve um momento para nos selecionar como sua fonte preferida no Google clicando aqui. Marque o link da DW quando ele aparecer na lista para sempre ver nossas notícias verificadas primeiro.