Novo malware usa inteligência artificial para se espalhar sozinho, diz estudo
Estudo aponta para novo tipo de ciberataque: um "worm" de IA que se espalha sozinho, coletando dados sensíveis sem precedentes
Em um novo estudo ainda não revisado por pares, pesquisadores afirmam terem criado um malware capaz de se propagar sozinho entre computadores utilizando inteligência artificial (IA). As informações são do portal Wired.
O novo software, conhecido como 'worm' (um tipo de vírus que se propaga automaticamente entre computadores), poderia comprometer assistentes de e-mail baseados em inteligência artificial para extrair dados sensíveis e disseminar mensagens de spam que infectam outros sistemas.
O experimento, realizado em um ambiente controlado, teve como alvo assistentes de e-mail que utilizam o GPT-4 da OpenAI, o Gemini Pro, do Google, e um modelo de linguagem de grande escala de código aberto chamado LLaVA, segundo o Wired.
Utilizando um "prompt auto-replicante", os pesquisadores afirmam que induziram o modelo de IA a produzir novos comandos que geram uma sequência de resultados capazes de infectar outros assistentes e extrair informações confidenciais.
O malware poderia coletar dados pessoais sensíveis, como nomes, números de telefone, números de cartões de crédito e SSNs, aproveitando-se do acesso dos assistentes de IA a uma grande quantidade de dados pessoais.
Além disso, os pesquisadores dizem que o programa demonstrou a capacidade de propagar-se para novas máquinas, infectando clientes de e-mail em cadeia.
A equipe de pesquisa comunicou suas descobertas à OpenAI e ao Google, e um porta-voz da OpenAI informou que estão trabalhando para fortalecer a resiliência de seus sistemas.
Procuramos a OpenAI e o Google para colher posicionamento mas, até o fechamento desta nota, não havíamos obtido resposta.
