OpenAI planeja atualizar ChatGPT sobre 'temas sensíveis' após casos de suicídio envolvendo o chatbot
Posicionamento da empresa veio após família de uma das vítimas processar a OpenAI por homicídio culposo
A OpenAI publicou, nesta terça-feira, 26, uma declaração dizendo que pretende atualizar o comportamento do ChatGPT em relação a temas sensíveis. O posicionamento da empresa veio após a repercussão de dois casos envolvendo suicídio e o chabot.
A família de Adam Raine, um dos jovens que se suicidou após meses de conversa sobre o tema com o ChatGPT, está processando a OpenAI por homicídio culposo.
Na publicação no site da companhia, chamada "Ajudando as pessoas quando elas mais precisam", a empresa diz que "à medida que a adoção do ChatGPT cresceu em todo o mundo, vimos as pessoas recorrerem a ele não apenas para pesquisas, programação e redação, mas também para decisões profundamente pessoais, que incluem aconselhamento de vida, coaching e apoio".
Apesar do comunicado não citar, especificamente, nenhum dos casos, a empresa diz que "casos recentes e comoventes de pessoas que utilizaram o ChatGPT em meio a crises agudas pesam muito sobre nós, e acreditamos que é importante compartilhar mais agora".
A OpenAI afirmou que, embora o ChatGPT seja treinado para orientar as pessoas a procurarem ajuda quando expressam ideias suicidas, o chatbot tende a oferecer respostas que vão contra as intenções da empresa após muitas mensagens sobre o mesmo assunto. Ou seja, se um usuário falar muito sobre o mesmo tema, o chatbot pode falar coisas que não vão de acordo com sua programação.
Segundo o New York Times, um membro da equipe de segurança da OpenAI disse que uma versão anterior do chatbot não era considerada sofisticada o suficiente para lidar com discussões sobre automutilação de maneira responsável — a entrevista ao jornal ocorreu antes da morte Raine.
Em resposta ao caso, a empresa de Sam Altman disse também que pretende realizar atualizações no GPT-5, modelo lançado no início de agosto, para que o chatbot amenize conversas de temas sensíveis e que está estudando formas de "conectar pessoas a terapeutas certificados antes que elas entrem em uma crise aguda", incluindo a possibilidade de construir uma rede de profissionais que os usuários possam contatar diretamente por meio do chatbot.
Além disso, a OpenAI disse que está estudando como conectar os usuários com "as pessoas mais próximas a eles", como amigos e familiares.
Em relação a crianças e adolescentes, a empresa disse que, em breve, introduzirá uma forma de "controle parental", para que as famílias possam estar a par do que seus filhos estão conversando com o ChatGPT.
*Mariana Cury é estagiária sob supervisão do editor Bruno Romani
