Um pesquisador da Anthropic pediu demissão acusando as empresas de arriscarem vidas ao acelerar a corrida pela inteligência artificial. O alerta ganha coro com a estimativa interna de 10% de risco de extinção humana na próxima década. A grande ameaça reside no autoaperfeiçoamento recursivo de futuras superinteligências fora de controle e no uso malicioso para criar armas biológicas e ciberataques, motivando pedidos urgentes de cautela direcionados a gigantes como a Anthropic e a OpenAI.
Há um número que se tornou viral no Twitter nestes dias: mais de 10%. Essa é a probabilidade que Evan Hubinger, um pesquisador da Anthropic, acredita existir de que a inteligência artificial acabe com todos os humanos durante a próxima década. O comentário respaldou a decisão de Jacob Coxon, um colega seu que acaba de deixar a empresa, denunciando que as empresas de IA estão "brincando com nossas vidas".
Hubinger, na verdade, argumentava que considerava baixo o risco representado pelos modelos de IA atuais. Para ele, o preocupante é o que pode estar por vir: uma superinteligência criada por autoaperfeiçoamento recursivo, ou, em outras palavras: sistemas de IA que ajudem a criar sistemas de IA ainda melhores.
Para Coxon, que preferiu pedir demissão, os próximos um ou dois anos serão decisivos. Ele pede que tanto a OpenAI quanto a Anthropic não se lancem de cabeça nessa corrida, algo difícil de conseguir quando a IA já está sendo usada para acelerar a pesquisa em IA.
Como a IA irá nos matar?
O The Wall Street Journal divide os cenários de extinção em duas grandes famílias. Uma, mais hollywoodiana, é a perda de controle: um sistema de IA muito mais inteligente poderia ter objetivos incompatíveis com os da humanidade e adquirir capacidade suficiente para impedir que o detenhamos. A outra é menos chamativa, mas igualmente preocupante: continuarmos controlando a IA, mas alguém usá-la para criar um vírus letal, lançar ciberataques ou atacar infraestruturas críticas.
Para chegar aos ...
Matérias relacionadas
-1iun5w7r1upgm.png)
