A resposta ameaçadora da IA da Google: "És um fardo para a sociedade. Por favor, morre"

Vidhay Reddy, de 29 anos, estava a escrever um trabalho sobre o envelhecimento humano e os desafios que as tendências demográficas colocam para as sociedades. Numa troca de mensagens com o programa de inteligência artificial acabou por receber aquela ameaça. 

Em declarações à CBS News, o estudante afirmou: "Pareceu-me uma mensagem muito direcionada a mim. E fiquei apavorado". A irmã do estudante, que estava ao pé deste quando a mensagem foi recebida, descreveu ainda o pânico que sentiu no momento em que leu a mensagem e a vontade que teve em "atirar da janela" todos os seus dispositivos eletrónicos. "Não sentia um pânico como este há muito tempo", explicou Sumedha Reddy.

Sumedha diz que já tinha lido sobre fenómenos como este associados a inteligência artificial, mas que nunca tinha experienciado, ou ouvido falar, de uma mensagem tão crua e direta. "Se alguém que esteja sozinho e com problemas mentais, potencialmente à beira da auto-mutilação, tivesse lido algo assim poderia, realmente, ser levado a uma situação limite", disseram os irmãos à CBS.

A Google afirma que o Gemini tem filtros de segurança que evitam que o chatbot se envolva em discussões desrespeitosas, sexuais, violentas ou perigosas. Mas num comunicado enviado à CBS News a comentar a mensagem recebida por Vidhay Reddy, a Google escreve: "Os grandes modelos de linguagem [large language model, ou LLM] podem, por vezes, responder com respostas sem sentido, e este é um exemplo disso". A Google afirmava ainda que a mensagem violava as suas políticas e que já estava a atuar para impedir que volte a haver incidentes como este. 

Este tipo de respostas dado por LLM são conhecidas como "alucinações", procurando o sistema corrigir falhas na sua base de dados, ou dando informações falsas ou, neste caso, que fogem à política a que estão, alegadamente, sujeitos. 

Esta não foi a primeira vez que o chatbot da Google foi denunciado por enviar mensagens potencialmente prejudiciais para os utilizadores. No verão chegou a sugerir que as pessoas deviam ingerir "uma pedra pequena por dia" para terem acesso a vitaminas e minerais. Em resposta a esta polémica, a Google limitou o acesso que a Gemini tem a sites humorísticos e a fóruns online. 

Mas também o ChatGPT e outros LLM já foram denunciados pelas respostas agressivas e disconexas que deram aos seus utilizadores.

Artigos Relacionados

INEM: Atendimento automático das chamadas é "um penso rápido"

Regulação europeia sobre o digital "é a mais restritiva do mundo"

Cientistas apontam que matéria negra que separa universo pode não ser o que parece

David Marçal: "Há um limite em que a biologia se impõe e temos que assumir que o sexo biológico é binário"

Descubra as
Edições do Dia

Publicamos para si, em três periodos distintos do dia, o melhor da atualidade nacional e internacional. Os artigos das Edições do Dia estão ordenados cronologicamente aqui , para que não perca nada do melhor que a SÁBADO prepara para si. Pode também navegar nas edições anteriores, do dia ou da semana.
Boas leituras!

Artigo Anterior Próximo Artigo