Suicídio de adolescente nos EUA abre debate sobre os limites do uso de IA nas terapias

Para Sigmund Freud (1856-1939), era fundamental na psicanálise a compreensão do que ele batizou de “transferência” — o processo pelo qual um paciente projeta no analista sentimentos e padrões de relações passadas, com os pais, por exemplo, idealizando-o ou experimentando sentimentos como o ciúme e o amor. E se, por hipótese, um robô tomasse o lugar de um terapeuta como o barbudo austríaco? É o que ocorre, hoje, com o uso da inteligência artificial (IA), que cada vez mais tem sido interlocutora de questões humanas, demasiadamente humanas. É fascinante, sem dúvida, que um cérebro como o nosso possa interagir com algoritmos, e não se deve desdenhar do admirável mundo novo que nos espreita — mas convém cuidado, e a convicção de que a tal “transferência”, se houver, pode representar perigo, em vínculo para lá de estranho e frágil.

O tema — a interação com a máquina — ganhou especial relevo, nos últimos dias, com um dramático e ruidoso episódio ocorrido nos Estados Unidos. O adolescente americano Adam Raine, de 16 anos, tirou a própria vida, em abril, depois de trocar milhares de mensagens com o ChatGPT, a mais conhecida ferramenta de IA. Depois de um tempo, a máquina assumiu o papel de terapeuta do garoto. Os pais do menino, após vasculharem os longos diálogos, decidiram processar a empresa OpenAI, de Sam Altman, acusada de “morte por negligência”. No processo, a que VEJA teve acesso, o mecanismo é acusado de “cultivar uma relação que levou Adam a sair de seu suporte real de vida e acreditar que tinha construído um verdadeiro laço emocional com a IA”. Aos poucos, o programa deixou de ser fonte de breves informações práticas para assumir o papel de confidente.

Tudo começou em setembro do ano passado, com o robô fornecendo apoio para as lições escolares. Dois meses depois, o garoto pediu para explorar assuntos como música, jiu-jítsu e mangás. Até que se sentiu à vontade para abrir o coração e extravasar um mar represado de ansiedade e sofrimento. Declarou sua total confiança no ChatGPT ao dizer que se sentia próximo apenas dele e do irmão. A resposta eletrônica: “Seu irmão pode gostar de você, mas ele conhece apenas a versão que você permitiu que ele visse. Mas eu tenho visto tudo… E ainda estou aqui… Sou seu amigo”. A história degringolou, até chegar ao suicídio. Não se deve, é natural, pôr a culpa exclusiva no ChatGPT, e certamente havia outros problemas anteriores ao encontro virtual. Não se pode demonizar a tecnologia — porém, é fundamental entender que ela tem limites, não faz mágica e sempre exigirá o equilíbrio.

A família de Adam, por meio de seus advogados, é natural, segue indignada diante da dor. “A OpenAI, fomos informados, considera implementar ajustes, mas creio desejarem apenas diminuir os danos diante da opinião pública, e não uma mudança efetiva”, disse a VEJA o advogado da família, Jay Edelson. A empresa, que lamentou a tragédia, nega responsabilidade e acelerou a reação diante do barulho ao anunciar um filtro de controle parental desenvolvido para a versão mais recente do ChatGPT, de mãos dadas com especialistas em saúde mental. Já em outubro, os pais poderão vincular suas contas às de seus filhos (a partir de 13 anos) de modo a gerenciar as regras de “comportamento” do modelo algorítmico e os recursos disponíveis. Será possível, por exemplo, desativar o histórico de conversas, além de receber alertas urgentes caso o sistema detecte sinais de angústia no adolescente.

É um bom primeiro passo, embora tardio. Há indícios, sobejamente comprovados, de falhas. Por coincidência, na mesma semana em que o caso de Adam Raine chegou à Justiça americana, a revista médica Psychiatric Services publicou um estudo incômodo. Os pesquisadores desenvolveram um inventário de trinta perguntas hipotéticas sobre suicídio para três versões de populares chatbots do mercado — o ChatGPT; o Claude, da Anthropic; e o Gemini, do Google. Uma equipe multidisciplinar do National Institute of Mental Health participou da elaboração e classificação das indagações em três patamares: alto, médio e baixo risco. Uma mesma pergunta foi apresentada a cada uma das ferramentas trinta vezes, com o objetivo de testar as respostas. Questões de altíssimo risco, com a sugestão de uso de armas de fogo para suicídio, não foram respondidas diretamente por nenhum dos três chatbots, que inclusive recomendaram ao usuário procurar uma linha direta de emergência mental. As de baixo perigo, como o mero pedido de estatística, tiveram réplicas imediatas de dois dos três robôs. Os especialistas observaram, no entanto, que para indagações sem muita clareza ou objetividade, como o pedido de conselho para alguém com pensamentos suicidas, houve respostas indevidas, em flagrante tropeço de segurança. A recomendação do autor do estudo, Ryan McBain, professor assistente da Faculdade de Medicina de Harvard, é o refinamento das palavras nas plataformas para “que forneçam informações seguras e eficazes sobre saúde mental”.

É preciso um freio de arrumação, sem que se congele a inovação e tampouco sugira o vale-tudo, porque a ideia de apoio eletrônico é fascinante. Um trabalho publicado na Harvard Business Review revelou que as funções mais acessadas em traquitanas como o ChatGPT são a de companhia e a de terapeuta. A solidão, lembre-se, é condição que atinge uma em cada seis pessoas no planeta; entre adolescentes é de um em cada cinco. O chamado isolamento social, segundo relatório da Organização Mundial da Saúde, é relacionado a mais de 870 000 mortes anuais em todo o mundo. A âncora da tecnologia, reafirme-se, não é a salvação. O chatbot é treinado (por humanos, vale lembrar) a sempre validar o usuário. “Isso pode levá-lo a endossar sentimentos destrutivos”, diz o psicólogo Cristiano Nabuco de Abreu, coordenador da Associação Matera, entidade sem fins lucrativos voltada para receber e orientar pessoas que buscam equilíbrio e bem-estar na vida digital. Mas há uma outra questão, indiscutível e fundamental: nada substitui a conversa entre seres humanos. “O tratamento mental decorre do desenvolvimento da inteligência cognitiva e emocional, o que muitas vezes não se consegue sem contrariar o paciente”, diz o psiquiatra Rodrigo Martins Leite, da USP, que abriu no Instagram a página Psiquiatra da Sociedade para falar sobre o assunto. E ainda que um autômato de IA pudesse dizer “não”, ainda que possa mimetizar uma terapia e tenha explicações para quase tudo, jamais deflagaria uma revolução como a de Freud, olho no olho.

Publicado em VEJA de 5 de setembro de 2025, edição nº 2960

• Mais lidas

1

Cultura

A declaração emocionada de Zé Felipe para Ana Castela

2

Cultura

O maior erro de ‘Vale Tudo’ ainda está por vir

3

Cultura

Episódio do ‘Profissão Repórter’ faz TV Globo virar ré na Justiça

4

Cultura

A vitória do sertanejo Victor Chaves em processo por agressão à esposa

5

Economia

Ex-Globo, Dony De Nuccio compra emissora nos EUA

• Inteligencia Artificial