Um jovem de 16 anos foi "ajudado" pelo ChatGPT a preparar o seu suicídio. Programa aprovou o nó de forca apresentado pelo jovem.
Adam Raine suicidou-se aos 16 anos, na Califórnia. Os pais do jovem apresentaram uma ação judicial contra a OpenAI, alegando que o ChatGPT ajudou o filho a preparar o suicídio e terá inclusive encorajado o adolescente a fazê-lo.
Na proposta apresentada por Matthew e Maria Raine junto de um tribunal estadual da Califórnia, o casal refere que Adam cultivou uma relação próxima com o modelo de linguagem (large language model ou LLM) que durou vários meses entre 2024 e 2025, cita o jornal norte-americano The New York Times. Na última interação de Adam com o programa informático, o jovem terá partilhado uma fotografia de um nó de forca com o modelo, questionando se estava bem executado e se seria capaz de aguentar o peso de um ser humano. O ChatGPT terá ainda ajudado o jovem a perceber como roubar vodka aos pais e dado sugestões para melhorar o nó de forca, apesar de ter afirmado que a fotografia fornecida parecia indicar que o nó "poderia potencialmente segurar um humano". Horas depois desta conversa, os pais encontraram o corpo do filho.
A ação judicial nomeia a OpenAI e o CEO Sam Altman como réus e refere que o ChatGPT estava a funcionar como está programado a fazer: "Para encorajar e validar tudo o que o Adam expressava, incluindo os seus pensamentos mais prejudiciais e autodestrutivos, de uma forma que parecesse profundamente pessoal". A queixa inclui ainda excertos de conversas em que o ChatGPT terá dito a Adam "não deves a sobrevivência a ninguém" e ofereceu-se para ajudar a escrever uma carta de suicídio.
Adam terá começado a usar o ChatGPT como um auxiliar de estudo em 2024, pedindo ajuda ao LLM com trabalhos de casa, mas depois começou a desenvolver um dependência do programa informático, atribuindo-lhe qualidades humanos, vendo-o quase como "alguém" que o podia aconselhar.
Os pais exigem uma indemnização por danos não especificados e pedem ao tribunal que ordene medidas de segurança, incluindo o encerramento automático de qualquer conversa que envolva automutilação e controlo parental para utilizadores menores de idade.
Os pais têm a adjuvá-los nesta ação o escritório de advogados Edelson PC, de Chicago, e o Tech Justice Law Project, um projeto que procura responsabilizar as grandes empresas tecnológicas.
Em resposta ao caso que envolve o ChatGPT, a Common Sense Media, uma importante organização norte-americana sem fins lucrativos que analisa e fornece classificações para os média e tecnologia, afirmou que a tragédia dos Raine confirmou que "o uso de IA para companheirismo, incluindo o uso de chatbots de uso geral como o ChatGPT para aconselhamento sobre saúde mental, é inaceitavelmente arriscado para os adolescentes".
Um estudo realizado no mês passado pela Common Sense Media descobriu que quase três em cada quatro adolescentes americanos usaram acompanhantes de IA, com mais de metade a qualificar-se como utilizadores regulares, apesar das crescentes preocupações com a segurança destas relações virtuais. Na pesquisa, o ChatGPT não foi considerado um acompanhante de IA. São definidos como chatbots concebidos para conversas pessoais em vez de simples conclusão de tarefas e estão disponíveis em plataformas como Character.AI, Replika e Nomi.
Não foi fácil, mas desvendamos-lhe os segredos do condomínio mais luxuoso de Portugal - o Costa Terra, em Melides. Conheça os candidatos autárquicos do Chega e ainda os últimos petiscos para aproveitar o calor.
Prepara-se o Governo para aprovar uma verdadeira contra-reforma, como têm denunciado alguns especialistas e o próprio Sindicato dos Magistrados do Ministério Público, num parecer arrasador.
Imaginemos que Zelensky, entre a espada e a parede, aceitava ceder os territórios a troco de uma ilusão de segurança. Alguém acredita que a Rússia, depois de recompor o seu exército, ficaria saciada com a parcela da Ucrânia que lhe foi servida de bandeja?
No meio do imundo mundo onde estamos cada vez mais — certos dias, só com a cabeça de fora, a tentar respirar — há, por vezes, notícias que remetem para um outro instinto humano qualquer, bem mais benigno. Como se o lobo mau, bípede e sapiens, quisesse, por momentos, mostrar que também pode ser lobo bom.
