Grok admitiu publicação na rede social X de imagens sexuais de menores usando IA

Grok adiantou estar a trabalhar num acordo, dado que poderá enfrentar punição nos Estados Unidos se não tomar medidas. Respondendo a um relatório de um caso envolvendo um menor, Grok disse que tinha "identificado falhas nas salvaguardas" do X e que iria "corrigi-las urgentemente", declarou que "o material de abuso sexual infantil (CSAM) é ilegal e proibido" e afirmou que a xAI, a sua empresa, está "comprometida em evitar estes problemas." Noutra resposta, refere que, ao abrigo da lei federal dos EUA e outras regras, "uma empresa pode enfrentar penalizações criminais ou civis se facilitar conscientemente, ou não impedir o CSAM gerado por IA após ser alertada", acrescentando que as consequências variam segundo a jurisdição ou as provas de inação. A mensagem surge após denúncias de que os assinantes do X Premium estão a usar a IA da Grok para gerar imagens não consensuais de pessoas - na sua maioria mulheres - de biquíni ou roupa interior, uma tendência preocupante, o que levou utilizadores de todo o mundo a pedir uma maior restrição da ferramenta e a eliminação do conteúdo gerado. Na quinta-feira, Grok respondeu, num tom menos grave, a essas denúncias sobre imagens de IA de mulheres de biquíni ou pouca roupa, explicando que "há casos isolados em que os utilizadores pediram e receberam imagens de IA retratando menores com roupa mínima" e que "a xAI tem salvaguardas, mas estão em curso melhorias para bloquear completamente essas solicitações". O magnata Elon Musk, proprietário da plataforma, minimizou as denúncias na quinta-feira, ao publicar uma foto sua de biquíni, depois de pedir à Grok para modificar uma imagem gerada por IA de outra pessoa deste tipo para que se parecesse com ele, pedido que a ferramenta executou sem problemas, e comentou: "Perfeito". Por seu lado, o Governo francês anunciou esta sexta-feira que apresentou uma queixa junto da Justiça e do organismo de verificação de conteúdos ilícitos online Pharos contra a inteligência generativa Grok da rede social X por criar e divulgar "conteúdos de caráter sexista e sexual". Num comunicado, os ministros da Economia, Roland Lescure; da Inteligência Artificial e Economia Digital, Anne Le Henanff; e da Igualdade entre Homens e Mulheres, Aurore Bergé, indicaram que dão este passo amparando-se no artigo 40 do Código Penal. E fazem-no porque dizem que "nestes últimos dias" Grok permitiu gerar e divulgar "conteúdos de caráter sexista e sexual, em particular na forma de vídeos falsos ('deepfakes') com pessoas, sem o seu consentimento".

Artigos Relacionados

IA já está a penalizar o emprego nos EUA. Recém-formados portugueses podem ser os próximos

IA de Elon Musk difundiu dados errados sobre atentado de Sydney

Descubra as
Edições do Dia

Publicamos para si, em três periodos distintos do dia, o melhor da atualidade nacional e internacional. Os artigos das Edições do Dia estão ordenados cronologicamente aqui , para que não perca nada do melhor que a SÁBADO prepara para si. Pode também navegar nas edições anteriores, do dia ou da semana.
Boas leituras!

Artigo Anterior