Dario Amodei, CEO da Anthropic, alertou sobre a urgência de desacelerar o avanço das IAs de fronteira para garantir a segurança humana, diante do início do "autoaperfeiçoamento recursivo". Esse conceito refere-se à habilidade de uma IA desenvolver modelos mais avançados que ela própria de forma autônoma. Embora nenhum laboratório tenha comprovado publicamente o domínio pleno dessa técnica, sistemas modernos já auxiliam na criação de novas gerações de modelos, acelerando a evolução do setor.
No dia 12 de setembro, Dario Amodei, diretor-geral da Anthropic, publicou um de seus ensaios mais controversos. Intitulado "Devemos definir o ritmo da fronteira" (We Must Pace the Frontier), o texto defende a necessidade de desacelerar o desenvolvimento de modelos de inteligência artificial (IA) de fronteira, com o objetivo de garantir seu alinhamento adequado aos interesses humanos e minimizar, tanto quanto possível, os riscos decorrentes do aprimoramento das IAs mais avançadas.
Este trecho de seu artigo é particularmente esclarecedor: "Desde este verão, a IA tem avançado muito mais rapidamente, impulsionada, sobretudo, por sua crescente capacidade de desenvolver a próxima geração de modelos. Essa dinâmica é chamada de 'autoaperfeiçoamento recursivo' e está começando a ocorrer em toda a indústria, inclusive na Anthropic".
Resolva a seguinte equação matemática sem usar calculadora: quanto é 100 - 50 ÷ 5 × 2?
Os alunos usam IA em excesso; professor de matemática vencedor do Prêmio Fields deixa de corrigir os erros e acertos dos deveres de casa: basta entregar o trabalho para receber a nota
Shigeru Miyamoto (73 anos), sobre a inteligência artificial generativa: "Mesmo que a IA venha a assumir tudo, sempre haverá um papel para nós"
Podemos entender o autoaperfeiçoamento recursivo como a capacidade de um modelo de linguagem desenvolver, de forma autônoma, novos modelos mais avançados do que ele próprio.
Depreende-se das palavras de Amodei que os modelos mais avançados da Anthropic e de outros laboratórios já estão participando do desenvolvimento de novos modelos de linguagem mais capazes — embora, até o momento, nenhuma dessas empresas tenha demonstrado publicamente que um de seus modelos tenha alcançado o autoaperfeiçoamento recursivo em sentido estrito.
No entanto, acaba de ocorrer uma reviravolta inesperada: um grupo de pesquisadores do MIT (Instituto de Tecnologia de Massachusetts) ...
Matérias relacionadas
ROG Xbox Ally X20 é o portátil mais caro da linha e o primeiro com tela OLED
-qy1ohgw30rw7.jpg)
