Pais processam OpenAI por ChatGPT ter ajudado filho a suicidar-se

Na proposta apresentada por Matthew e Maria Raine junto de um tribunal estadual da Califórnia, o casal refere que Adam cultivou uma relação próxima com o modelo de linguagem (large language model ou LLM) que durou vários meses entre 2024 e 2025, cita o jornal norte-americano The New York Times. Na última interação de Adam com o programa informático, o jovem terá partilhado uma fotografia de um nó de forca com o modelo, questionando se estava bem executado e se seria capaz de aguentar o peso de um ser humano. O ChatGPT terá ainda ajudado o jovem a perceber como roubar vodka aos pais e dado sugestões para melhorar o nó de forca, apesar de ter afirmado que a fotografia fornecida parecia indicar que o nó "poderia potencialmente segurar um humano". Horas depois desta conversa, os pais encontraram o corpo do filho. A ação judicial nomeia a OpenAI e o CEO Sam Altman como réus e refere que o ChatGPT estava a funcionar como está programado a fazer: "Para encorajar e validar tudo o que o Adam expressava, incluindo os seus pensamentos mais prejudiciais e autodestrutivos, de uma forma que parecesse profundamente pessoal". A queixa inclui ainda excertos de conversas em que o ChatGPT terá dito a Adam "não deves a sobrevivência a ninguém" e ofereceu-se para ajudar a escrever uma carta de suicídio. Adam terá começado a usar o ChatGPT como um auxiliar de estudo em 2024, pedindo ajuda ao LLM com trabalhos de casa, mas depois começou a desenvolver um dependência do programa informático, atribuindo-lhe qualidades humanas, vendo-o quase como "alguém" que o podia aconselhar. 

Os pais exigem uma indemnização por danos não especificados e pedem ao tribunal que ordene medidas de segurança, incluindo o encerramento automático de qualquer conversa que envolva automutilação e controlo parental para utilizadores menores de idade. Os pais têm a adjuvá-los nesta ação o escritório de advogados Edelson PC, de Chicago, e o Tech Justice Law Project, um projeto que procura responsabilizar as grandes empresas tecnológicas.  Em resposta ao caso que envolve o ChatGPT, a Common Sense Media, uma importante organização norte-americana sem fins lucrativos que analisa e fornece classificações para os média e tecnologia, afirmou que a tragédia dos Raine confirmou que "o uso de IA para companheirismo, incluindo o uso de chatbots de uso geral como o ChatGPT para aconselhamento sobre saúde mental, é inaceitavelmente arriscado para os adolescentes". Um estudo realizado no mês passado pela Common Sense Media descobriu que quase três em cada quatro adolescentes americanos usaram acompanhantes de IA, com mais de metade a qualificar-se como utilizadores regulares, apesar das crescentes preocupações com a segurança destas relações virtuais. Na pesquisa, o ChatGPT não foi considerado um acompanhante de IA. São definidos como chatbots concebidos para conversas pessoais em vez de simples conclusão de tarefas e estão disponíveis em plataformas como Character.AI, Replika e Nomi.

Artigo Anterior Próximo Artigo