Um jovem de 16 anos foi "ajudado" pelo ChatGPT a preparar o seu suicídio. Programa aprovou o nó de forca apresentado pelo jovem.
Adam Raine suicidou-se aos 16 anos, na Califórnia. Os pais do jovem apresentaram uma ação judicial contra a OpenAI, alegando que o ChatGPT ajudou o filho a preparar o suicídio e terá inclusive encorajado o adolescente a fazê-lo.
Na proposta apresentada por Matthew e Maria Raine junto de um tribunal estadual da Califórnia, o casal refere que Adam cultivou uma relação próxima com o modelo de linguagem (large language model ou LLM) que durou vários meses entre 2024 e 2025, cita o jornal norte-americano The New York Times. Na última interação de Adam com o programa informático, o jovem terá partilhado uma fotografia de um nó de forca com o modelo, questionando se estava bem executado e se seria capaz de aguentar o peso de um ser humano. O ChatGPT terá ainda ajudado o jovem a perceber como roubar vodka aos pais e dado sugestões para melhorar o nó de forca, apesar de ter afirmado que a fotografia fornecida parecia indicar que o nó "poderia potencialmente segurar um humano". Horas depois desta conversa, os pais encontraram o corpo do filho.
A ação judicial nomeia a OpenAI e o CEO Sam Altman como réus e refere que o ChatGPT estava a funcionar como está programado a fazer: "Para encorajar e validar tudo o que o Adam expressava, incluindo os seus pensamentos mais prejudiciais e autodestrutivos, de uma forma que parecesse profundamente pessoal". A queixa inclui ainda excertos de conversas em que o ChatGPT terá dito a Adam "não deves a sobrevivência a ninguém" e ofereceu-se para ajudar a escrever uma carta de suicídio.
Adam terá começado a usar o ChatGPT como um auxiliar de estudo em 2024, pedindo ajuda ao LLM com trabalhos de casa, mas depois começou a desenvolver um dependência do programa informático, atribuindo-lhe qualidades humanas, vendo-o quase como "alguém" que o podia aconselhar.
Os pais exigem uma indemnização por danos não especificados e pedem ao tribunal que ordene medidas de segurança, incluindo o encerramento automático de qualquer conversa que envolva automutilação e controlo parental para utilizadores menores de idade.
Os pais têm a adjuvá-los nesta ação o escritório de advogados Edelson PC, de Chicago, e o Tech Justice Law Project, um projeto que procura responsabilizar as grandes empresas tecnológicas.
Em resposta ao caso que envolve o ChatGPT, a Common Sense Media, uma importante organização norte-americana sem fins lucrativos que analisa e fornece classificações para os média e tecnologia, afirmou que a tragédia dos Raine confirmou que "o uso de IA para companheirismo, incluindo o uso de chatbots de uso geral como o ChatGPT para aconselhamento sobre saúde mental, é inaceitavelmente arriscado para os adolescentes".
Um estudo realizado no mês passado pela Common Sense Media descobriu que quase três em cada quatro adolescentes americanos usaram acompanhantes de IA, com mais de metade a qualificar-se como utilizadores regulares, apesar das crescentes preocupações com a segurança destas relações virtuais. Na pesquisa, o ChatGPT não foi considerado um acompanhante de IA. São definidos como chatbots concebidos para conversas pessoais em vez de simples conclusão de tarefas e estão disponíveis em plataformas como Character.AI, Replika e Nomi.
Seria bom que Maria Corina – à frente de uma coligação heteróclita que tenta derrubar o regime instaurado por Nicolás Maduro, em 1999, e herdado por Nicolás Maduro em 2013 – tivesse melhor sorte do que outras premiadas com o Nobel da Paz.
“S” sentiu que aquele era o instante de glória que esperava. Subiu a uma carruagem, ergueu os braços em triunfo e, no segundo seguinte, o choque elétrico atravessou-lhe o corpo. Os camaradas de protesto, os mesmos que minutos antes gritavam palavras de ordem sobre solidariedade e justiça, recuaram. Uns fugiram, outros filmaram.
É excelente poder dizer que a UE já aprovou 18 pacotes de sanções e vai a caminho do 19º. Mas não teria sido melhor aprovar, por exemplo, só cinco pacotes muito mais robustos, mais pesados e mais rapidamente do que andar a sancionar às pinguinhas?
Um bando de provocadores que nunca se preocuparam com as vítimas do 7 de Outubro, e não gostam de ser chamados de Hamas. Ai que não somos, ui isto e aquilo, não somos terroristas, não somos maus, somos bonzinhos. Venha a bondade.
