O pesquisador Jacob Coxon pediu demissão da Anthropic acusando o setor de inteligência artificial de irresponsabilidade e de "brincar com nossas vidas". O alerta ganhou força com o colega Evan Hubinger, que estima em mais de 10% a chance de a IA extinguir a humanidade na próxima década por meio de superinteligências recursivas. Diante de cenários catastróficos que incluem perda de controle dos sistemas ou criação de armas biológicas, especialistas pedem freio urgente na corrida tecnológica.
Há um número que se tornou viral no Twitter nestes dias: mais de 10%. Essa é a probabilidade que Evan Hubinger, um pesquisador da Anthropic, acredita existir de que a inteligência artificial acabe com todos os humanos durante a próxima década. O comentário respaldou a decisão de Jacob Coxon, um colega seu que acaba de deixar a empresa, denunciando que as empresas de IA estão "brincando com nossas vidas".
Hubinger, na verdade, argumentava que considerava baixo o risco representado pelos modelos de IA atuais. Para ele, o preocupante é o que pode estar por vir: uma superinteligência criada por autoaperfeiçoamento recursivo, ou, em outras palavras: sistemas de IA que ajudem a criar sistemas de IA ainda melhores.
Para Coxon, que preferiu pedir demissão, os próximos um ou dois anos serão decisivos. Ele pede que tanto a OpenAI quanto a Anthropic não se lancem de cabeça nessa corrida, algo difícil de conseguir quando a IA já está sendo usada para acelerar a pesquisa em IA.
Como a IA irá nos matar?
O The Wall Street Journal divide os cenários de extinção em duas grandes famílias. Uma, mais hollywoodiana, é a perda de controle: um sistema de IA muito mais inteligente poderia ter objetivos incompatíveis com os da humanidade e adquirir capacidade suficiente para impedir que o detenhamos. A outra é menos chamativa, mas igualmente preocupante: continuarmos controlando a IA, mas alguém usá-la para criar um vírus letal, lançar ciberataques ou atacar infraestruturas críticas.
Para chegar aos ...
Matérias relacionadas
OpenAI afirma que sua IA resolveu problema matemático de 92 anos
-qhvlhi9x0fac.jpg)
