Carl Jung, psiquiatra: "O homem que envelhece deveria saber que existe um processo interno e implacável que força a restringir sua vida"
Hackers roubam R$ 33,8 bilhões da Binance no maior roubo de criptomoedas do mundo
Procuram-se voluntários para morar de graça nas Astúrias em troca de atender peregrinos do Caminho de Santiago por 25 horas semanais
"Estão apostando com nossas vidas": ex-pesquisador da OpenAI e Anthropic se demite e expõe medo interno de cientistas; especialista alerta que empresas estão acelerando corrida perigosa rumo à superinteligência que pode sair do controle até o fim da década
Pesquisador afirma que laboratórios conhecem os riscos da superinteligência, mas continuam avançando por medo de que concorrentes cheguem primeiro
O pesquisador Jacob Coxon pediu demissão da Anthropic e acusou a empresa e a OpenAI de irresponsabilidade ao acelerarem a corrida pela superinteligência sem o devido controle de riscos. Com apoio de outros cientistas do setor, Coxon alertou que o avanço desmedido dessas tecnologias é visto internamente como uma ameaça existencial real à humanidade ainda nesta década, afirmando que as companhias estão apostando com vidas humanas ao ignorarem os perigos de sistemas autoaperfeiçoáveis.
A corrida pelo desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos ganhou um novo capítulo nesta semana. Jacob Coxon, pesquisador britânico de 27 anos, anunciou sua saída da Anthropic e afirmou que também considera irresponsável a trajetória adotada pela OpenAI, onde trabalhou anteriormente.
Coxon passou os últimos três anos trabalhando com pré-treinamento de modelos de IA. Em uma publicação no X, ele afirmou que as duas empresas estão avançando em direção a uma "superinteligência autoaperfeiçoável" sem que os riscos estejam suficientemente controlados.
Carl Jung, psiquiatra: "O homem que envelhece deveria saber que existe um processo interno e implacável que força a restringir sua vida"
Hackers roubam R$ 33,8 bilhões da Binance no maior roubo de criptomoedas do mundo
Procuram-se voluntários para morar de graça nas Astúrias em troca de atender peregrinos do Caminho de Santiago por 25 horas semanais
"Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente para uma superinteligência autoaperfeiçoável e apostando com nossas vidas", escreveu o pesquisador.
Coxon diz que o medo existe dentro das próprias empresas
Segundo o pesquisador, cientistas e executivos que trabalham diretamente no desenvolvimento desses sistemas também levam a possibilidade de uma catástrofe a sério.
Coxon afirmou que algumas dessas pessoas acreditam que uma IA suficientemente avançada poderia, em determinadas circunstâncias, representar uma ameaça existencial à humanidade ainda nesta década. Para ele, declarações públicas mais moderadas não necessariamente refletem o nível de preocupação discutido internamente.
A afirmação ganhou ainda mais repercussão depois que Evan Hubinger, líder de Alignment Science da Anthropic, respondeu publicamente a Coxon e concordou com parte da avaliação.
Alerta não... Matérias relacionadas
As pilhas nem sempre morrem quando deixam de funcionar: uma borracha pode resolver esse problema
-1jelh1n3ei88k.jpg)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.