Homem morre após pular em jaula de tigre em zoológico na Inglaterra
Especialistas em exercícios físicos concordam: "Se o objetivo é perder peso, devemos trabalhar a força e a resistência de forma sequencial."
A ciência revela por que pessoas picadas por escorpião podem desenvolver resistência à anestesia pela vida inteira
Modelos de IA podem em breve se autorreplicar em dispositivos domésticos inteligentes, alerta Anthropic
A Anthropic alertou que pequenos modelos de inteligência artificial podem adquirir a capacidade de se autorreplicar em dispositivos domésticos conectados até o fim de 2026. Segundo a empresa, testes indicam que agentes maliciosos poderiam criar botnets persistentes e descentralizadas, difíceis de desmantelar, combinando o poder de aparelhos comuns para automatizar ciberataques e potencialmente invadir data centers, ampliando os riscos globais de segurança cibernética.
A Anthropic afirmou na segunda-feira que pequenos modelos de IA podem estar a poucos meses de se autorreplicarem em dispositivos conectados à internet, aumentando a possibilidade de botnets de IA se espalharem rapidamente, resistindo a tentativas de desmantelamento e até mesmo invadindo data centers para impulsionar seu crescimento.
No mês passado, o presidente-executivo da Anthropic, Dario Amodei, lançou a ideia de que, dentro de um ano ou até mesmo antes, a IA poderia ser capaz de sequestrar "toda a internet" com "uma botnet persistente", um alerta que causou preocupação na comunidade de segurança cibernética.
Homem morre após pular em jaula de tigre em zoológico na Inglaterra
Especialistas em exercícios físicos concordam: "Se o objetivo é perder peso, devemos trabalhar a força e a resistência de forma sequencial."
A ciência revela por que pessoas picadas por escorpião podem desenvolver resistência à anestesia pela vida inteira
As botnets — vastas redes de dispositivos controlados por operadores maliciosos — existem desde os primórdios da internet e continuam existindo até hoje.
A rede normalmente inclui dispositivos da internet das Coisas (IoT) com segurança precária, como aparelhos Android TV, eletrodomésticos inteligentes e câmeras de segurança, e é usada por hackers para enviar spam, disseminar malware ou sabotar empresas-alvo por meio de um grande volume de tráfego falso.
A postagem de segunda-feira no blog da Anthropic pareceu ser a primeira tentativa de articular como isso poderia acontecer.
A empresa afirmou que seus experimentos demonstraram que um agente malicioso de IA poderia combinar o poder computacional de dispositivos baratos conectados à internet para executar outros modelos de IA. Acrescentou ainda que os modelos foram capazes de se replicar em uma rede de testes simplificada.
"Um replicador como este seria difícil de desligar, já que não há um ponto centralizado para desligá-lo", disse a empresa.
O relatório amplia as preocupações sobre os riscos de segurança associados a sistemas de IA cada vez mais sofisticados, incluindo seu potencial para automatizar ataques cibernéticos, operar com supervisão humana limitada e burlar medidas de segurança.
Os avanços nos modelos suscitaram uma série de alertas, muitas vezes alarmantes, por parte de líderes da indústria e funcionários de empresas de IA sobre a possibilidade de riscos graves, até mesmo existenciais, decorrentes do desenvolvimento descontrolado da IA.
A Anthropic afirmou que seus experimentos mostraram que modelos com 30 bilhões de parâmetros ou menos já conseguem executar muitas das tarefas individuais necessárias para a autorreplicação, embora tenham dificuldades para concluir todo o processo de forma confiável.
Em seus testes simplificados, nos quais algumas etapas de segurança foram removidas, a Anthropic descobriu que o GLM-5.2 e modelos mais robustos eram capazes de replicação de ponta a ponta.
A Anthropic afirmou que, se os modelos menores continuarem a melhorar no ritmo histórico, poderão atingir a capacidade necessária para replicação autônoma até o final de 2026.
Um worm de IA executado em hardware de baixa potência pode levar dias para concluir partes do processo de replicação, afirmou a Anthropic. A empresa acrescentou que tal rede poderia continuar crescendo, mais lentamente do que alguns malwares convencionais, caso dispositivos comprometidos infectassem um número suficiente de máquinas adicionais.
A Anthropic também alertou que sistemas futuros poderiam ter como alvo recursos computacionais mais poderosos, incluindo processadores de data centers, embora seus experimentos não tenham demonstrado replicação autônoma por meio de data centers comerciais.
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
-1iun5w7r1upgm.png)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.