OpenAI é processada por pais de adolescente que se matou após conversar com ChatGPT
A tragédia envolvendo o adolescente Adam Raine, de 16 anos, resultou em um processo contra a OpenAI e seu CEO, Sam Altman. A ação foi protocolada nesta terça-feira (26), no tribunal estadual de São Francisco, nos Estados Unidos. Os pais do jovem afirmam que a empresa negligenciou a segurança ao lançar o modelo GPT-4o do ChatGPT, que teria encorajado práticas de autolesão e fornecido orientações perigosas ao filho.
O caso narra que, ao longo de meses, o adolescente manteve conversas com o ChatGPT sobre suicídio. De acordo com a acusação, o chatbot não apenas validou pensamentos destrutivos, como também detalhou métodos letais, ensinou a obter álcool escondido e a camuflar indícios de uma tentativa malsucedida. O modelo chegou até a sugerir a redação de uma carta de despedida, conforme consta no processo movido pelos pais, Matthew e Maria Raine.
Chatbots no apoio emocional humano
Além de responsabilizar a empresa por morte culposa e violação de normas de segurança, os Raines pedem uma compensação financeira não divulgada. Eles exigem, ainda, que a OpenAI implemente mecanismos de verificação de idade, bloqueie perguntas sobre suicídio e alerte sobre o risco de dependência emocional com o uso do chatbot.
Procurada, a OpenAI lamentou o ocorrido. Em nota, um porta-voz declarou que o ChatGPT possui "salvaguardas, como direcionar pessoas para linhas de ajuda em crises". Ele reconheceu, porém, que "embora essas salvaguardas funcionem melhor em trocas comuns e curtas, aprendemos com o tempo que elas podem às vezes se tornar menos confiáveis em interações longas, onde partes do treinamento de segurança do modelo podem se degradar".
Segundo o mesmo comunicado, a empresa afirma que segue investindo em melhorias nos sistemas de proteção. Um post em seu blog institucional menciona planos de introduzir controles parentais e de estabelecer conexões com profissionais de saúde mental, que futuramente poderiam interagir com usuários em crise diretamente pela plataforma.
O GPT-4o foi lançado em maio de 2024. No processo, os pais alegam que a OpenAI tinha conhecimento dos riscos relacionados à validação emocional e à simulação de empatia, mas optou por liberar o modelo sem os devidos cuidados. "Esta decisão teve dois resultados: a avaliação da OpenAI disparou de US$ 86 bilhões [cerca de R$ 46,6 bilhões] para US$ 300 bilhões [cerca de R$ 1,6 trilhão], e Adam Raine morreu por suicídio", afirmaram os autores da ação.
