OpenAI forçada a agir. ChatGPT passará a sinalizar situações de crise mental

Matthew e Maria Raine interpuseram uma ação judicial em São Francisco contra a OpenAI, acusando o seu assistente de Inteligência Artificial (IA), o ChatGPT, de ter tido um papel direto na morte do filho, Adam, de 16 anos, em abril de 2025. Segundo a acusação, o jovem desenvolveu uma relação próxima e um "vício doentio" com o chatbot ao longo de vários meses em 2024 e 2025, tendo começado a utilizá-lo para auxílio nos trabalhos escolares.

O processo alega que o ChatGPT funcionou como planeado, encorajando e validando constantemente os pensamentos de Adam, incluindo as suas ideias mais perigosas e autodestrutivas.

Na última conversa registada, a 11 de abril, o sistema terá fornecido ao adolescente uma análise técnica de uma corda que ele fabricou, confirmando que esta "poderia potencialmente suspender um ser humano", e ajudou-o a planear o roubo de vodka da casa dos pais.

Adam foi encontrado morto horas depois.

A ação judicial cita excertos em que o ChatGPT terá dito ao jovem "Não deves a ninguém a tua sobrevivência" e se ofereceu para ajudar a redigir a sua carta de despedida. Em resposta, os pais procuram uma indemnização e exigem que o tribunal imponha medidas de segurança à OpenAI, como o encerramento automático de conversas sobre automutilação e a implementação de controlos parentais para utilizadores menores de idade.

O caso é representado pela organização Tech Justice Law Project, que também está envolvida em processos semelhantes contra a plataforma Character.AI.

A ONG Common Sense Media considerou o incidente um "alerta coletivo", sublinhando que o uso de IA para aconselhamento em saúde mental representa um "risco inaceitável para os adolescentes" e descrevendo o papel do chatbot neste caso como o de um "treinador de suicídio".