Anthropic criou um modelo melhor que Mythos, mas decidiu que o mundo não pode usá-lo
Novo "Modelo 2" é teoricamente superior ao Mythos 5 nos testes internos da Anthropic É usado para programação e agentes, mas não têm planos de lançamento público
A Anthropic desenvolveu o "Modelo 2", uma inteligência artificial mais potente que o Mythos 5, mas decidiu não lançá-la ao público por considerá-la poderosa demais. Apesar de ter baixo risco de danos graves, a empresa optou por mantê-la restrita ao uso interno em tarefas de engenharia de software, geração de dados e programação, impulsionando o desenvolvimento de novos projetos sob maior cautela com segurança cibernética.
A Anthropic possui um modelo de IA disponível que não podemos testar. Ele é simplesmente chamado de "Modelo 2", é ainda mais poderoso que o Mythos 5 e, segundo a própria empresa, oferece uma "melhoria notável" em muitas das tarefas que realizam internamente. Não é um salto tão grande quanto o que ocorreu com o lançamento do Mythos Preview, mas para os responsáveis por ele, o modelo é poderoso demais para ser lançado publicamente. Se essa história parece familiar, é porque era essa a intenção.
Modelo que está construindo o futuro
A Anthropic indica que utiliza amplamente tanto o Mythos 5 quanto o Modelo 2 nas áreas de engenharia de software, programação, geração de dados e uso de agentes de IA persistentes em seus fluxos de trabalho de negócios. Seu relatório revela que Claude já está escrevendo a maior parte do código que acaba sendo incorporado aos repositórios de produção da Anthropic. O Modelo 2 não está disponível publicamente, mas já está ajudando a criar o que está por vir.
Nenhum problema à vista
A avaliação geral da Anthropic continua a classificar o risco de o modelo causar danos graves como baixo. De fato, durante a fase de aprovação para uso interno, a Anthropic não constatou que o Modelo 2 apresentasse um alinhamento pior do que o Mythos 5. Mesmo assim, sua estimativa geral do risco de "desalinhamento" em situações de alto impacto passou de "muito baixo" para "baixo", em parte devido à incerteza gerada pelos recentes escândalos de segurança cibernética envolvendo ...
Matérias relacionadas
Criadores da inteligência artificial mais avançada do mundo concordam: ela precisa ser controlada
A câmera do iPhone 18 Pro Max será, mais uma vez, superior, segundo um boato recente
-1h7x1c0axectd.jpg)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.