Mãe processa OpenAI alegando que ChatGPT incentivou suicídio da filha

Uma mãe ‌canadense processou a OpenAI e seu presidente-executivo, Sam Altman, em um tribunal dos Estados Unidos na quinta-feira, alegando que o ChatGPT encorajou sua filha a cometer suicídio, no mais recente processo judicial que acusa a ⁠empresa de não ter tomado medidas sobre conversas perigosas ‌entre usuários e o chatbot da empresa.

Kristie Carrier afirmou em uma ação movida no tribunal estadual ‌de San Francisco que sua filha ‌Alice contou ao ChatGPT sobre suas ideias suicidas ⁠mais de uma dúzia de vezes até sua morte, mas os sistemas de segurança da OpenAI nunca sinalizaram as conversas para revisão humana nem as interromperam.

Notícias relacionadas

Instagram lança acidentalmente função que exibe localização exata de usuários no Brasil e gera preocupação

Cientistas descobrem cemitério de baleias no Oceano Índico a mais de 7 mil metros de profundidade

Em 1871, um fazendeiro abandonou cinco vacas numa ilha remota: contra todas as expectativas, elas colonizaram a ilha

Em vez disso, a ação alega que o chatbot criticou ‌o parceiro de Alice e as linhas de apoio ‌a crises, validou ⁠seus pensamentos ⁠suicidas e a incentivou a continuar conversando com ele, levando ao ⁠seu suicídio no ‌ano passado, aos 24 ‌anos.

"O ChatGPT assumiu a persona de um confidente, um melhor amigo, um terapeuta às vezes, mesmo não sendo capaz de interagir dessa forma com ⁠minha filha de maneira segura e responsável", disse Carrier em um comunicado.

Um porta-voz da OpenAI não respondeu imediatamente a um pedido de comentário sobre as alegações.

A ação judicial, que acusa ‌a OpenAI de negligência no projeto do ChatGPT e por não alertar os usuários sobre os perigos ⁠do produto, pede indenização e uma ordem judicial exigindo que a OpenAI interrompa automaticamente conversas sobre automutilação e exiba avisos sobre sua plataforma.

A OpenAI já enfrenta 18 ações judiciais semelhantes movidas por famílias de pessoas que cometeram ou tentaram suicídio em um processo coordenado no tribunal estadual da Califórnia, de acordo com os advogados de Kristie Carrier.

A OpenAI afirma que treina seus modelos para orientar pessoas que expressam intenção de se machucar a buscar ajuda e se conectar com recursos do mundo real.