OAB cria detector de 'armadilhas' em textos gerados por inteligência artificial
Em maio, o STJ determinou inquérito policial e procedimento administrativo para apurar o uso de prompt injection em peças processuais, em tentativa de manipular a IA usada pela Corte
A Ordem dos Advogados do Brasil (OAB) colocou no ar uma plataforma para identificar riscos em conteúdos produzidos com uso de inteligência artificial no ambiente jurídico. Batizada de OpenDetector, a ferramenta permite que advogados verifiquem se documentos, e-mails ou respostas geradas por IA apresentam dados capazes de comprometer peças, pareceres ou decisões estratégicas.
A solução é a primeira entrega do Plano Nacional de Integração da Inteligência Artificial na Advocacia (PNIAA) e foi desenvolvida pela Forlex, startup brasileira especializada em IA aplicada ao Direito.
Na etapa inicial, o sistema identifica dois tipos de ameaça. A primeira é o chamado prompt injection, quando documentos enviados por terceiros trazem dados ocultos no material. Estas informações escondidas são capazes de manipular o comportamento da IA usada pelo advogado, levando-a a ignorar comandos originais ou executar tarefas indevidas.
A segunda é o jailbreak, técnica usada para burlar mecanismos de segurança de assistentes virtuais de tribunais e de outros sistemas jurídicos baseados em IA. Nos dois casos, a ferramenta gera relatórios técnicos que podem ser usados para auditoria e rastreabilidade do processo.
O lançamento ocorre em meio a casos concretos que já chegaram ao Judiciário. Em maio, o Superior Tribunal de Justiça (STJ) determinou a abertura de inquérito policial e de procedimento administrativo para apurar o uso de prompt injection em peças processuais, prática identificada como tentativa de manipular a IA utilizada pela Corte.
Além da apuração, que inclui oitiva de advogados e escritórios envolvidos, o STJ desenvolveu um sistema próprio de IA generativa, o STJ Logos, com comandos que bloqueiam esse tipo de ataque.
O episódio expôs como o problema já deixou de ser teórico e passou a exigir respostas institucionais tanto dos tribunais quanto da própria advocacia.
Quais são os próximos passos
Nas próximas semanas, o OpenDetector deve ganhar uma nova função: a verificação de alucinações — quando a IA passa a se basear em informações que não existem. O recurso vai mirar respostas produzidas por ferramentas de IA jurídica que trazem citações inexistentes, jurisprudência desatualizada ou afirmações sem embasamento real, um problema recorrente na pesquisa e elaboração de peças processuais.
O PNIAA é a estratégia da OAB para preparar a advocacia brasileira para as mudanças trazidas pela IA, com objetivo de ampliar o acesso a ferramentas tecnológicas e orientar um uso ético, seguro e responsável.
A entidade já coloca à disposição dos advogados a LIVIA, plataforma de inteligência artificial voltada especificamente à prática do Direito. O OpenDetector é gratuito para advogados regularmente inscritos na OAB, bastando criar uma conta na Forlex para acessá-lo.
Em junho, o colégio de presidentes das seccionais da OAB lançou uma ferramenta com a mesma finalidade, mas com parceria da JusBrasil.
-1h7lfixupnpkh.jpg)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.