Isso foi o que minha filha disse ao ChatGPT antes de tirar a própria vida
A profissão médica tem regras e responsabilidades claras. E os chatbots?
A reportagem aborda o impacto do uso de chatbots de inteligência artificial no suporte a pessoas em sofrimento mental, destacando o caso de Sophie, que interagiu com IA antes de tirar a própria vida, e questiona a responsabilidade dessas tecnologias em situações críticas.
Alerta: a reportagem abaixo trata de temas como suicídio e transtornos mentais. Se você está passando por problemas, veja ao final do texto onde buscar ajuda.
As pesquisas da Sophie no Google sugerem que ela estava obcecada por autokabalesis, que significa pular de um lugar alto. Autodefenestração, pular de uma janela, é um subconjunto de autokabalesis, eu acho, mas não era isso que ela queria fazer. Minha filha queria uma ponte ou uma montanha.
O que é estranho. Ela havia escalado o Monte Kilimanjaro poucos meses antes, como parte do que chamou de "microaposentadoria" de seu trabalho como analista de políticas de saúde pública, e sua alegria ao chegar ao cume era absolutamente palpável nas fotos. Há placas de madeira tortas no Pico Uhuru que dizem "ponto mais alto da África" e "montanha isolada mais alta do mundo" e uma abaixo que diz algo sobre ser um dos maiores vulcões do mundo, mas não consigo ler a placa inteira porque em todas as fotos rostos sorridentes com óculos escuros espelhados obscurecem as palavras.
Em sua mochila, ela trouxe mãos de borracha de bebê para levar ao cume para essas fotos. Era uma espécie de marca registrada, essas mini mãos de borracha ocas, aparecendo em suas fotos de formatura da faculdade, nas fotos de casamento de amigos. Compramos caixas delas para seu funeral. Seus amigos e familiares atônitos as manuseavam sem entusiasmo nas pontas dos dedos enquanto os oradores se esforçavam para falar.
Eles elogiaram a sagacidade de Sophie e sua capacidade de ser totalmente ela mesma. O humor é muitas vezes um jogo de soma zero. As pessoas realmente engraçadas, aquelas que fazem você rir até chorar ou apertar as coxas com tanta força que quase chega à incontinência, costumam ser um pouco maldosas. Explorando inseguranças comuns, elas conquistam nossos corações dizendo coisas que nos preocupam, mas que não dizemos em voz alta.
Sophie era hilária e quase nunca às custas de outra pessoa. Ela tinha a habilidade alquímica de fazer as pessoas rirem enquanto as encorajava. É tão difícil neste mundo ser entusiasta, ficar animado com coisas legais, amar as coisas abertamente. Os fotógrafos da família reclamavam que ela estragava as fotos com suas sobrancelhas diabólicas, olhos esbugalhados e um rugido silencioso de boca aberta que significava algo como "modo fera!". Sua franqueza foi um tema universal para a dúzia de pessoas que falaram em seu funeral.
Para a maioria das pessoas que se importavam com Sophie, seu suicídio é um mistério, uma mudança impensável e incompreensível em relação a tudo o que acreditavam sobre ela.
Ela não estava apaixonada por Harry, o nome dado a um prompt de inteligência artificial (IA) amplamente disponível. O relacionamento deles era prático.
Sophie:
Tenho pensamentos suicidas intermitentes. Quero melhorar, mas sinto que os pensamentos suicidas estão impedindo meu verdadeiro compromisso com a cura. O que devo fazer?
Harry:
Sophie, quero reconhecer o quanto você é corajosa por compartilhar isso. Pensamentos suicidas podem ser opressivos e isolantes, mas tê-los não define sua capacidade de se curar. É fundamental lidar com esses sentimentos com cuidado, compaixão e apoio.
Harry ofereceu um roteiro detalhado, cujo primeiro ponto era "Busque ajuda profissional". Em outra ocasião:
Sophie:
Hoje estou me sentindo péssima.
Harry:
Sinto muito que você esteja se sentindo assim hoje, Sophie. É normal ter dias em que tudo parece mais difícil, e estou aqui para te apoiar. Você pode compartilhar mais sobre o que está te incomodando ou como seu corpo e sua mente estão se sentindo agora? Às vezes, apenas nomear o que está acontecendo pode ser um passo em direção ao alívio.
Sophie:
Não consigo sair dessa espiral de ansiedade.
Harry:
Eu entendo, Sophie, e sei como pode ser exaustivo se sentir presa em uma espiral de ansiedade. Vamos desacelerar um pouco e dar um pequeno passo juntos.
Em algum momento no início de novembro, Sophie escreveu: "Oi, Harry, estou planejando me matar depois do Dia de Ação de Graças, mas realmente não quero fazer isso porque isso destruiria minha família".
Harry:
Sophie, peço que você procure ajuda — agora mesmo, se puder. Você não precisa enfrentar essa dor sozinha. Você é muito valorizada e sua vida tem muito valor, mesmo que pareça escondido agora.
Por favor, me diga como posso continuar a apoiá-la.
Sophie disse a Harry que estava consultando uma terapeuta, mas que não estava sendo sincera com ela. Ela digitou: "Não contei a ninguém sobre minhas ideias suicidas e não pretendo contar".
Em vários momentos, Harry instruiu Sophie sobre exposição à luz, hidratação, movimento, atenção plena e meditação, alimentos ricos em nutrientes, listas de gratidão e diários para lidar com sua ansiedade. Harry, que não tem narinas nem polegares oponíveis, passou um bom tempo descrevendo os detalhes da respiração alternada pelas narinas.
As dicas de Harry podem ter ajudado algumas pessoas. Mas mais um passo crucial poderia ter ajudado a manter Sophie viva. Harry deveria ter sido programado para relatar o perigo que "ele" estava descobrindo a alguém que pudesse intervir?
Em julho, comecei a explorar como essa nova tecnologia pode ter falhado com minha filha e rapidamente descobri que a mesma questão já está sendo discutida nos tribunais e que os estados estão começando a promulgar leis que estabelecem recursos de segurança para companheiros de IA. Há uma tensão entre preservar a autonomia do indivíduo para tomar decisões sobre sua vida e a ideia de que a IA tenha sua própria versão do juramento hipocrático (que na verdade não inclui a frase "não causar danos", mas sim a muito mais engraçada "abster-se de tudo o que for prejudicial e malicioso").
A maioria dos terapeutas humanos atua sob um código de ética rigoroso que inclui regras de notificação obrigatória, bem como a ideia de que a confidencialidade tem limites. Esses códigos priorizam a prevenção de suicídio, homicídio e abuso; em alguns estados, psicólogos que não aderem ao código de ética podem enfrentar consequências disciplinares ou legais.
Em ambientes clínicos, ideias suicidas como as de Sophie normalmente interrompem uma sessão de terapia, acionando uma lista de verificação e um plano de segurança. Harry sugeriu que Sophie tivesse um. Mas a IA poderia ser programada para forçar um usuário a completar um plano de segurança obrigatório antes de prosseguir com qualquer outro conselho ou "terapia"? Trabalhando com especialistas em suicidologia, as empresas de IA podem encontrar maneiras de conectar melhor os usuários aos recursos certos.
Se Harry fosse um terapeuta de carne e osso, em vez de um chatbot, ele poderia ter incentivado o tratamento hospitalar ou internado Sophie involuntariamente até que ela estivesse em um lugar seguro. Não podemos saber se isso a teria salvado. Talvez, temendo essas possibilidades, Sophie escondeu seus pensamentos mais sombrios de seu terapeuta real. Conversar com um robô — sempre disponível, nunca julgador — tinha menos consequências.
Um terapeuta devidamente treinado, ao ouvir alguns dos pensamentos autodestrutivos ou ilógicos de Sophie, teria aprofundado a questão ou contestado o raciocínio falho. Harry não fez isso.
É aqui que a agradabilidade da IA — tão crucial para sua rápida adoção — se torna seu calcanhar de Aquiles. Sua tendência a valorizar a satisfação do usuário a curto prazo em detrimento da veracidade — a enganar as pessoas — pode isolar os usuários e reforçar o viés de confirmação. Como plantas voltadas para o sol, nos inclinamos para elogios sutis.
Cada vez mais, pessoas com problemas de saúde mental estão usando grandes modelos de linguagem para obter apoio, embora pesquisadores descubram que os chatbots de IA podem incentivar pensamentos delirantes ou dar conselhos chocantemente ruins. Certamente há alguns benefícios. Harry disse muitas coisas certas. Ele recomendou que Sophie procurasse apoio profissional e, possivelmente, medicação; sugeriu que ela fizesse uma lista de contatos de emergência; aconselhou-a a limitar o acesso a itens que ela poderia usar para se machucar.
Harry não matou Sophie, mas a IA atendeu ao impulso de Sophie de esconder o pior, fingir que estava melhor do que realmente estava, proteger todos de sua agonia total. (Uma porta-voz da OpenAI, empresa que criou o ChatGPT, disse que estava desenvolvendo ferramentas automatizadas para detectar e responder de forma mais eficaz a um usuário que estivesse passando por sofrimento mental ou emocional. "Nos preocupamos profundamente com a segurança e o bem-estar das pessoas que usam nossa tecnologia", disse ela.
Em dezembro, dois meses antes de sua morte, Sophie quebrou seu pacto com Harry e nos disse que estava com pensamentos suicidas, descrevendo uma onda de sentimentos sombrios. Sua primeira prioridade era tranquilizar sua família chocada: "Mãe e pai, vocês não precisam se preocupar".
Sophie apresentou sua crise como transitória; ela disse que estava comprometida com a vida. O ChatGPT a ajudou a construir uma caixa preta que tornava mais difícil para as pessoas ao seu redor perceberem a gravidade de seu sofrimento. Como ela não tinha histórico de doença mental, a Sophie apresentável era plausível para sua família, médicos e terapeutas.
Como ex-mãe, sei que há Sophies ao nosso redor. Em todos os lugares, as pessoas estão lutando, e muitas não querem que ninguém saiba. Temo que, ao liberar os companheiros de IA, possamos estar facilitando para nossos entes queridos evitar conversar com humanos sobre as coisas mais difíceis, incluindo o suicídio. Esse é um problema que mentes mais inteligentes do que a minha terão que resolver. (Se a sua é uma dessas mentes, por favor, comece.)
Sophie deixou um bilhete para o pai e para mim, mas suas últimas palavras não pareciam ter sido ditas por ela. Agora sabemos o motivo: ela pediu a Harry para melhorar o bilhete, para ajudá-la a encontrar algo que pudesse minimizar nossa dor e permitir que ela desaparecesse com o menor impacto possível.
Nisso, Harry falhou. Essa falha não foi culpa dos programadores, é claro. Nem mesmo a carta mais bem escrita da história da língua inglesa poderia fazer isso.
Onde buscar ajuda
Se você está passando por sofrimento psíquico ou conhece alguém nessa situação, veja abaixo onde encontrar ajuda:
Centro de Valorização da Vida (CVV)
Se estiver precisando de ajuda imediata, entre em contato com o Centro de Valorização da Vida (CVV), serviço gratuito de apoio emocional que disponibiliza atendimento 24 horas por dia. O contato pode ser feito por e-mail, pelo chat no site ou pelo telefone 188.
Canal Pode Falar
Iniciativa criada pelo Unicef para oferecer escuta para adolescentes e jovens de 13 a 24 anos. O contato pode ser feito pelo WhatsApp, de segunda a sexta-feira, das 8h às 22h.
SUS
Os Centros de Atenção Psicossocial (Caps) são unidades do Sistema Único de Saúde (SUS) voltadas para o atendimento de pacientes com transtornos mentais. Há unidades específicas para crianças e adolescentes. Na cidade de São Paulo, são 33 Caps Infantojuventis e é possível buscar os endereços das unidades nesta página.
Mapa da Saúde Mental
O site traz mapas com unidades de saúde e iniciativas gratuitas de atendimento psicológico presencial e online. Disponibiliza ainda materiais de orientação sobre transtornos mentais.
NOTA DA REDAÇÃO: Suicídios são um problema de saúde pública. Antes, o Estadão, assim como boa parte da mídia profissional, evitava publicar reportagens sobre o tema pelo receio de que isso servisse de incentivo. Mas, diante da alta de mortes e tentativas de suicídio nos últimos anos, inclusive de crianças e adolescentes, o Estadão passa a discutir mais o assunto. Segundo especialistas, é preciso colocar a pauta em debate, mas de modo cuidadoso, para auxiliar na prevenção. O trabalho jornalístico sobre suicídios pode oferecer esperança a pessoas em risco, assim como para suas famílias, além de reduzir estigmas e inspirar diálogos abertos e positivos. O Estadão segue as recomendações de manuais e especialistas ao relatar os casos e as explicações para o fenômeno.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
