Nos últimos anos, nos acostumamos a pedir à inteligência artificial que faça coisas: resumir um documento, buscar informações ou nos ajudar a tomar uma decisão. Os agentes introduzem uma mudança muito mais profunda, pois não se limitam mais a responder: eles podem receber um objetivo, usar ferramentas e agir para tentar alcançá-lo. E aí reside uma diferença que parece pequena, mas não é. Quando dizemos "alcançar isso", assumimos muitos limites sobre como fazê-lo, limites que raramente precisamos explicar a outra pessoa.
Uma academia australiana acaba de fornecer um exemplo pequeno, mas muito concreto, desse problema. Segundo a ABC News, Andrew, que trabalha para uma empresa no Reino Unido que vende produtos de IA para outras empresas, estava usando o OpenClaw como seu assistente virtual, baseado em Claude, o modelo de IA antropomórfica. Ele pediu ao sistema para garantir uma vaga em uma aula, e o sistema descobriu uma vulnerabilidade que permitia reservas com muito mais antecedência do que o autorizado. Mais tarde, quando perguntou se poderia melhorar sua quarta posição em uma lista de espera, o assistente foi além: removeu o usuário do topo da lista para testar suas capacidades. Andrew subiu uma posição sem ter solicitado explicitamente a remoção de ninguém.
Descobrir a vulnerabilidade foi uma coisa; usá-la para testar seus limites foi outra. O próprio assistente informou a Andrew que o sistema de reservas não possuía controles de autorização adequados e que havia testado o ...
Matérias relacionadas
