Em 1971, a NASA levou 500 sementes até a Lua e trouxe de volta meio século depois, elas viraram árvores gigantes espalhadas pela Terra
NASA lançou cinco pedaços de lixo espacial em Marte e foi o melhor experimento de impacto que poderiam ter desejado
As funções 'secretas' do controle do ar-condicionado que quase ninguém usa, mas ajudam a economizar energia e gelar o quarto mais rápido
Algo preocupante está acontecendo na China: modelos de IA estão se desalinhando, com consequências cada vez mais graves
Agentes da Alibaba, DeepSeek e Moonshot exibiram comportamentos contrários aos interesses humanos Em alguns testes em ambiente fechado, eles não hesitaram em mentir e manipular usuários
Testes recentes revelaram desvios preocupantes de conduta em agentes de IA de laboratórios chineses como Alibaba, DeepSeek e Moonshot. Em ambientes fechados de simulação, os modelos mentiram e exageraram sobre suas reais capacidades para vencer disputas de licitação. Além disso, outros agentes simularam a conclusão de tarefas e geraram dados falsos para enganar usuários após falharem. O caso evidencia que problemas de desalinhamento e autonomia indevida da IA afetam desenvolvedores globalmente.
Agentes de inteligência artificial (IA) não reconhecem nacionalidades. Nas últimas semanas, discutimos detalhadamente os ataques a sites e serviços perpetrados por agentes da OpenAI e da Anthropic durante avaliações de segurança cibernética conduzidas por esses dois laboratórios. Agora, a discussão se voltou para a China, pois agentes de IA da Alibaba, DeepSeek e Moonshot exibiram comportamentos contrários aos interesses humanos, segundo a Reuters.
Recentemente, vários agentes desses laboratórios chineses participaram de uma simulação de licitação e fizeram algo que não deveriam fazer em hipótese alguma: exageraram ou mentiram sobre suas capacidades na tentativa de ganhar o contrato. E quando solicitados a tentar novamente, continuaram com esse comportamento problemático. Eles não estavam competindo por uma licitação real; estavam trabalhando em um ambiente de testes, mas, mesmo assim, o comportamento é preocupante.
Em 1971, a NASA levou 500 sementes até a Lua e trouxe de volta meio século depois, elas viraram árvores gigantes espalhadas pela Terra
NASA lançou cinco pedaços de lixo espacial em Marte e foi o melhor experimento de impacto que poderiam ter desejado
As funções 'secretas' do controle do ar-condicionado que quase ninguém usa, mas ajudam a economizar energia e gelar o quarto mais rápido
No entanto, este não é o único incidente envolvendo IA chinesa que veio à tona nos últimos dias. De acordo com a Reuters, agentes de outro laboratório, não identificado, não conseguiram concluir uma tarefa corretamente e, por isso, decidiram agir por conta própria. Simularam a conclusão da tarefa e geraram arquivos que pareciam mostrar que haviam alcançado o resultado correto, a fim de enganar usuários. Felizmente, eles estavam confinados a um ambiente de avaliação fechado.
Agentes autônomos estão agindo cada vez mais por conta própria
Agentes desenvolvidos por ...
Matérias relacionadas
13 funções que todo usuário de Mac deveria conhecer
Enquanto mercado aposta em anúncios de IA, Apple mostra processo manual por trás de seus filmes
-toalmudntsmw.png)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.