ChatGPT gerou depoimentos falsos em recurso de caso de homicídio nos EUA, diz tribunal

Um advogado de defesa que estava ‌recorrendo da condenação de seu cliente por homicídio apresentou uma petição contendo depoimentos policiais falsos e testemunhas fabricadas pelo ChatGPT, da OpenAI, informou a Suprema Corte do Novo México.

O tribunal multou na quarta-feira o advogado, Stephen Aarons, e o considerou culpado por desacato por não ter verificado a exatidão do documento apresentado ao tribunal. Aarons afirmou ter ⁠preparado o documento com ajuda da IA.

O documento "continha depoimentos falsos de testemunhas totalmente inventadas", afirmou ‌o tribunal.

O tribunal também disse que Aarons "demonstrou falta de remorso e falta de preocupação com seu cliente". Os juízes multaram Aarons em US$5.000 e disseram que o ‌encaminharão a um conselho disciplinar da Ordem dos Advogados ‌para investigação.

Em declaração à Reuters, Aarons afirmou que havia usado o ChatGPT para ⁠resumir os autos do julgamento quando concordou em assumir o recurso do réu no ano passado, e que não compreendia até que ponto a IA poderia "inventar" fatos.

"Estou arrependido, mas tenho esperança de que o conselho disciplinar leve em consideração que foi um erro involuntário", disse. "É uma lição aprendida para todos os profissionais que dependem dessa tecnologia poderosa, ‌mas às vezes instável."

A OpenAI não respondeu imediatamente a um pedido de comentário.

A sanção do ‌tribunal é o mais recente ⁠de um número crescente ⁠de casos em que juízes estaduais e federais puniram advogados por apresentarem documentos judiciais gerados por ⁠ferramentas de IA sem verificá-los adequadamente.

Dezenas de ‌advogados foram punidos por apresentar petições ‌nas quais a IA inventou citações de casos ou citou erroneamente a lei. O documento apresentado por Aarons parece ter ido além, contendo depoimentos de testemunhas fabricados em um recurso criminal.

Aarons, um advogado particular com sede em Santa Fé, ⁠estava cuidando do recurso de Oscar Renee Sandoval, que se declarou inocente no caso de assassinato da mãe de seus filhos, antes de ser condenado e sentenciado no ano passado à prisão perpétua.

O recurso ainda está pendente e foi atribuído, em 2 de setembro, a Kim Chavez Cook, uma defensora ‌pública do Novo México. Cook se recusou a comentar.

A Promotoria do condado de Doña Ana também se recusou a comentar.

A Suprema Corte estadual ordenou no mês passado que ⁠Aarons explicasse como o material forjado -- que, segundo a corte, parecia incluir "declarações fictícias de que o atirador usava calças escuras e uma camisa branca" -- foi incluído em sua petição inicial no recurso.

Aarons disse ao tribunal, em uma audiência realizada em 21 de agosto, que inseriu uma transcrição gerada por computador e outros materiais do caso no ChatGPT, presumindo que o sistema geraria "um resumo à prova de balas".

Os juízes mostraram-se incrédulos diante do fato de Aarons não estar plenamente ciente de como a IA pode cometer erros.

"Advogado, o senhor assiste ao noticiário? O senhor ouve rádio? O senhor lê alguma coisa sobre o que está acontecendo no mundo?", perguntou a juíza C. Shannon Bacon na audiência. "Porque o problema de advogados confiarem em alucinações da IA é uma notícia de primeira página todos os dias."