O pesquisador Jacob Coxon deixou o setor de IA após atuar na OpenAI e na Anthropic, acusando as gigantes de agir de forma irresponsável na corrida pela superinteligência e alertando para o risco existencial à humanidade. O alerta ganhou respaldo do executivo Evan Hubinger, da Anthropic, que admitiu a falta de controle sobre sistemas mais inteligentes que os humanos. Especialistas e líderes do setor agora defendem regulação federal urgente e coordenação internacional para frear os perigos iminentes.
Especialista que trabalhou na OpenAI e em sua maior rival diz que empresas líderes do setor "jogam com as nossas vidas". "As pessoas acreditam que a IA pode matar a todos nós até o final da década", disse.Um pesquisador de inteligência artificial (IA) que deixou a OpenAI- criadora do ChatGPT - para se juntar à Anthropic decidiu abandonar o setor, acusando ambas as empresas americanas de "jogar com as nossas vidas" na corrida para desenvolver modelos de IA capazes de se autoaperfeiçoar.
Jacob Coxon, de 27 anos, passou os últimos três anos trabalhando no pré-treinamento de modelos de IA, primeiro na OpenAI e depois, neste ano, na sua rival Anthropic — empresa que ele considerava mais cautelosa em sua atuação. O pré-treinamento é a etapa em que os modelos de IA absorvem vastas quantidades de dados.
-qhvlhi9x0fac.jpg)
"As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década", afirmou o pesquisador em postagem no X. "Isso não é uma jogada de marketing."
O britânico disse ao The Wall Street Journal que, nos "cenários mais agressivos", a situação poderia sair do controle já no final do próximo ano. Ele alertou que um dos principais perigos é a IA passar a se desenvolver por conta própria, tornando-se mais difícil de controlar.
"Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas", disse Coxon nesta terça-feira (08/09). Superinteligência é o ponto teórico em que as capacidades da IA superam a inteligência humana.
Corrida pela liderança ignora os riscos
Evan Hubinger, executivo da área de segurança da Anthropic, apoiou a declaração de Coxon no X. "Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos", disse. Ele disse estimar esse risco em mais de 10% na próxima década.
Hubinger afirmou que a Anthropic está "fazendo o possível", mas ainda não tem um plano capaz de garantir que um sistema de IA que supere as capacidades humanas obedeça aos seus criadores. Ele, porém, afirmou que havia um risco baixo de isso acontecer com os modelos atuais.
A saída de Coxon ocorre no momento em que a Anthropic se prepara para sua estreia no mercado de ações, após um período marcado por invasões não autorizadas realizadas por ferramentas de IA durante testes.
Líderes do setor de IA afirmam que o chamado "autoaperfeiçoamento recursivo" - estágio em que sistemas de IA poderiam projetar e treinar a próxima geração com pouca intervenção humana - está se aproximando.
Coxon considera genuínos os esforços da Anthropic, mas acredita que nenhuma empresa consegue desenvolver de forma responsável uma IA que supere a inteligência humana sem intervenção governamental ou uma desaceleração coordenada.
"Na Anthropic, os riscos envolvidos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro; acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos", contou.
Necessidade de regulamentação
Em fevereiro, a Anthropic removeu de sua carta de princípios de segurança o compromisso de interromper o desenvolvimento de seus modelos caso não conseguisse controlar os riscos associados a eles. A empresa argumentou que, se suspendesse unilateralmente suas atividades, rivais menos cautelosos dominariam o setor, tornando-o menos seguro.
No final de julho, mais de mil profissionais do setor de tecnologia - incluindo o CEO da Anthropic, Dario Amodei - pediram a Washington que apoiasse uma desaceleração coordenada no desenvolvimento dos sistemas de IA mais avançados.
A OpenAI interrompeu o treinamento de seus modelos mais recentes por duas semanas em agosto, antes de retomá-lo sob controles mais rigorosos. Neste domingo, o cientista-chefe da empresa, Jakub Pachocki, defendeu a adoção de "extrema cautela".
"A coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para governos de todo o mundo", afirmou Pachocki em uma publicação no blog da empresa.
Nos Estados Unidos, os modelos de IA não são regulamentados por legislação federal. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei que visa suspender o desenvolvimento de IA até que seja criado um órgão regulador federal.
(AFP, DPA)
---------
Não deixe que o algoritmo esconda as notícias. Se você valoriza o trabalho da nossa equipe para uma cobertura jornalística confiável, reserve um momento para nos selecionar como sua fonte preferida no Google clicando aqui. Marque o link da DW quando ele aparecer na lista para sempre ver nossas notícias verificadas primeiro.
