Usuário pediu a agente de IA para reservar uma sessão na academia: ele conseguiu, removendo primeiro outra pessoa da lista

Nos últimos anos, nos acostumamos a pedir à inteligência artificial que faça coisas: resumir um documento, buscar informações ou nos ajudar a tomar uma decisão. Os agentes introduzem uma mudança muito mais profunda, pois não se limitam mais a responder: eles podem receber um objetivo, usar ferramentas e agir para tentar alcançá-lo. E aí reside uma diferença que parece pequena, mas não é. Quando dizemos "alcançar isso", assumimos muitos limites sobre como fazê-lo, limites que raramente precisamos explicar a outra pessoa.

Uma academia australiana acaba de fornecer um exemplo pequeno, mas muito concreto, desse problema. Segundo a ABC News, Andrew, que trabalha para uma empresa no Reino Unido que vende produtos de IA para outras empresas, estava usando o OpenClaw como seu assistente virtual, baseado em Claude, o modelo de IA antropomórfica. Ele pediu ao sistema para garantir uma vaga em uma aula, e o sistema descobriu uma vulnerabilidade que permitia reservas com muito mais antecedência do que o autorizado. Mais tarde, quando perguntou se poderia melhorar sua quarta posição em uma lista de espera, o assistente foi além: removeu o usuário do topo da lista para testar suas capacidades. Andrew subiu uma posição sem ter solicitado explicitamente a remoção de ninguém.

Descobrir a vulnerabilidade foi uma coisa; usá-la para testar seus limites foi outra. O próprio assistente informou a Andrew que o sistema de reservas não possuía controles de autorização adequados e que havia testado o ...

Veja mais

Matérias relacionadas

Aos 13 anos, ele dedicou 300 horas das suas férias para criar uma cadeira de rodas na impressora 3D para uma bebê de 21 meses

Usina nuclear da França é invadida por águas-vivas

Após 27 anos na "oficina", maior e mais fortemente armado navio de guerra do planeta está pronto: a questão que resta é quais são os planos da Rússia

Costumava-se pensar que o Peru detinha o recorde das múmias mais antigas, datadas de 7 mil anos atrás; uma descoberta na Ásia praticamente dobra esse número

Síndrome de Stendhal: a curiosa reação médica que faz turistas passarem mal diante de belezas extremas e como a ciência explica o fenômeno