"Estão apostando com nossas vidas": ex-pesquisador da OpenAI e Anthropic se demite e expõe medo interno de cientistas; especialista alerta que empresas estão acelerando corrida perigosa rumo à superinteligência que pode sair do controle até o fim da década
Pesquisador afirma que laboratórios conhecem os riscos da superinteligência, mas continuam avançando por medo de que concorrentes cheguem primeiro
Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, pediu demissão e alertou sobre a corrida perigosa das empresas rumo a uma superinteligência sem controle adequado dos riscos. Coxon declarou que as companhias estão sendo irresponsáveis e que há um temor interno real entre cientistas de que a tecnologia ameace a humanidade ainda nesta década, posição que foi parcialmente endossada por Evan Hubinger, líder de alinhamento da Anthropic.
A corrida pelo desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos ganhou um novo capítulo nesta semana. Jacob Coxon, pesquisador britânico de 27 anos, anunciou sua saída da Anthropic e afirmou que também considera irresponsável a trajetória adotada pela OpenAI, onde trabalhou anteriormente.
Coxon passou os últimos três anos trabalhando com pré-treinamento de modelos de IA. Em uma publicação no X, ele afirmou que as duas empresas estão avançando em direção a uma "superinteligência autoaperfeiçoável" sem que os riscos estejam suficientemente controlados.
"Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente para uma superinteligência autoaperfeiçoável e apostando com nossas vidas", escreveu o pesquisador.
Coxon diz que o medo existe dentro das próprias empresas
Segundo o pesquisador, cientistas e executivos que trabalham diretamente no desenvolvimento desses sistemas também levam a possibilidade de uma catástrofe a sério.
Coxon afirmou que algumas dessas pessoas acreditam que uma IA suficientemente avançada poderia, em determinadas circunstâncias, representar uma ameaça existencial à humanidade ainda nesta década. Para ele, declarações públicas mais moderadas não necessariamente refletem o nível de preocupação discutido internamente.
A afirmação ganhou ainda mais repercussão depois que Evan Hubinger, líder de Alignment Science da Anthropic, respondeu publicamente a Coxon e concordou com parte da avaliação.
Alerta não... Matérias relacionadas
-qdq0e1foh0zc.jpg)
-qhvlhi9x0fac.jpg)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.