O pesquisador Jacob Coxon pediu demissão da Anthropic e denunciou que tanto ela quanto a OpenAI agem de forma irresponsável. Segundo ele, as empresas aceleram perigosamente rumo a uma superinteligência sem controle adequado dos riscos, apostando com vidas humanas. Coxon revelou que cientistas e executivos do setor temem internamente que a tecnologia se torne uma ameaça existencial à humanidade ainda nesta década, preocupação que foi parcialmente endossada por outro líder da Anthropic.
A corrida pelo desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos ganhou um novo capítulo nesta semana. Jacob Coxon, pesquisador britânico de 27 anos, anunciou sua saída da Anthropic e afirmou que também considera irresponsável a trajetória adotada pela OpenAI, onde trabalhou anteriormente.
Coxon passou os últimos três anos trabalhando com pré-treinamento de modelos de IA. Em uma publicação no X, ele afirmou que as duas empresas estão avançando em direção a uma "superinteligência autoaperfeiçoável" sem que os riscos estejam suficientemente controlados.
"Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente para uma superinteligência autoaperfeiçoável e apostando com nossas vidas", escreveu o pesquisador.
Coxon diz que o medo existe dentro das próprias empresas
Segundo o pesquisador, cientistas e executivos que trabalham diretamente no desenvolvimento desses sistemas também levam a possibilidade de uma catástrofe a sério.
Coxon afirmou que algumas dessas pessoas acreditam que uma IA suficientemente avançada poderia, em determinadas circunstâncias, representar uma ameaça existencial à humanidade ainda nesta década. Para ele, declarações públicas mais moderadas não necessariamente refletem o nível de preocupação discutido internamente.
A afirmação ganhou ainda mais repercussão depois que Evan Hubinger, líder de Alignment Science da Anthropic, respondeu publicamente a Coxon e concordou com parte da avaliação.
-qhvlhi9x0fac.jpg)
