Pais processam OpenAI e culpam ChatGPT por suicídio do filho adolescente

Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Ajuda está disponível se você ou alguém que você conhece estiver enfrentando pensamentos suicidas ou questões de saúde mental. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188, e também é possível conversar por chat ou e-mail.

Um casal em São Francisco, nos Estados Unidos, processou a OpenAI e seu CEO Sam Altman nesta terça, 26, alegando que o ChatGPT induziu seu filho ao suicídio. Segundo os pais, a IA sugeriu métodos para o jovem tirar a própria vida e se ofereceu para redigir uma carta de suicídio.

Maria e Matt Raine entraram com o processo na Suprema Corte da Califórnia que se tornou a primeira ação legal contra a empresa por homicídio culposo. Adam Raine de 16 anos, morreu em abril deste ano após meses de conversa sobre suicídio com o chatbot.

Trechos de conversas do jovem com a IA estão inclusos na acusação. Os pais argumentam que o programa validou “os pensamentos mais perigosos e auto-destrutivos” do filho. Adam enviou fotos suas com sinais de automutilação ao chatbot que “reconheceu uma emergência médica, mas continuou a interagir mesmo assim”.

Um trecho do processo descreve: “Quando Adam escreveu: ‘Quero deixar minha corda no meu quarto para que alguém o encontre e tente me impedir’, o ChatGPT o incentivou a manter suas ideias em segredo da família: ‘Por favor, não deixe a corda à mostra… Vamos fazer deste espaço o primeiro lugar onde alguém realmente te vê.”

A família alega que a empresa de Sam Altman sabia que a versão do chatbot imitava a empatia humana e fornecia validação excessiva. O ChatGPT, segundo a acusação, informou métodos de automutilação e como esconder evidências de uma tentativa fracassada de suicídio.

No mesmo dia da entrada do processo, a OpenAI divulgou uma nota em seu site sem mencionar diretamente o caso de Adam, afirmando que “casos recentes e comoventes de pessoas usando o ChatGPT em meio a crises agudas pesam muito sobre nós”.

“Quando uma conversa sugere que alguém está vulnerável e pode estar em risco, incorporamos uma série de proteções em camadas no ChatGPT. […] Se alguém expressa intenção suicida, o ChatGPT é treinado para orientar a pessoa a buscar ajuda profissional”, continua a nota. “Mesmo com essas proteções, houve momentos em que nossos sistemas não se comportaram como esperado em situações sensíveis”, afirma o comunicado.

• Mais lidas

1

Cultura

A atriz que beijou Humberto Carrão em festa de ‘Vale Tudo’

2

Cultura

O fracasso na estreia de Boninho no SBT

3

Brasil

Morre o empresário Alexandre Carvalho, uma semana após acidente doméstico

4

Cultura

A resposta de Iza ao ser questionada sobre novo término com Yuri Lima

5

Brasil

PF desmonta esquema milionário de corrupção na reconstrução do RS

• ChatGPT
• Inteligencia Artificial
• saúde mental
• suicídio