O mecanismo de Inteligência Artificial do X permite a manipulação e sexualização de imagens já existentes na plataforma, até de menores de idade, apesar de ser ilegal.
Ser mulher nas redes sociais tornou-se ainda mais perigoso. O mecanismo de Inteligência Artificial (IA) do X, o Grok, lançou uma nova funcionalidade na véspera de Natal que permite aos utilizadores pedirem à ferramenta edite uma imagem na plataforma, da maneira que desejarem. E, como seria de esperar, alguns dos utilizadores usaram esta utilidades para atividades que aterrorizam uma franja da população. Os utilizadores do X começaram a pedir ao Grok para transformar imagens de raparigas em imagens das mesmas mas “de bikini” ou “sem vestido”, incluindo menores de idade. A ferramenta não precisa de consentimento de quem postou a fotografia, por isso, ninguém está a salvo.
Segundo o Copy Leaks, uma ferramenta de deteção de conteúdo de IA e verificação de plágio, o Grok gera uma imagem sexualizada sem consentimento por minuto. Ou seja, quase 1.500 imagens destas por dia. Depois de milhares de casos de vídeos deep fake em que se criavam vídeos pornográficos de celebridades ou até cidadãos anónimos, agora qualquer utilizador que subscreva a versão paga da rede social X consegue criar os seus próprios conteúdos sexualizados numa questão de segundos. E fá-lo à vista de todos, incluindo da vítima.
Um dos casos mais graves foi o pedido de um utilizador para gerar uma imagem da atriz de 14 anos Nell Fisher, protagonista da última temporada de Stranger Things, de biquíni (imagem abaixo). Mas há centenas de milhares de outras situações parecidas.
Recentemente, depois de ter gerado uma imagem imprópria de duas jovens menores de idade, a ferramenta lamentou o sucedido considerado que “violou padrões éticos e, potencialmente, as leis dos EUA sobre material de abuso sexual infantil”. Apesar do seu criador, o multi milionário Elon Musk, não ter inicialmente levado as acusações a sério, publicando uma das imagens geradas dele em bikini, já veio alertar que “qualquer pessoa que utilize o Grok para criar conteúdo ilegal vai sofrer o mesmo tipo de consequências” como se publicasse conteúdos ilegais.
Já esta sexta-feira, o X anunciou que a ferramenta que consegue remover a roupa passará a ser uma função exclusiva dos subscritores da versão paga do X. Uma forma ao mesmo tempo de limitar o acesso à ferramenta e de a monetizar. Os utilizadores que pedem para modificar as imagens enviadas para o X são informados que a "geração e edição de imagens são limitadas aos assinantes pagos" e que somente com o pagamento é possível aceder as funções de edição sob a sua própria responsabilidade. Isto implicará que o nome e as informações de pagamento do utilizador estejam associados à imagem alterada, seja ela do tipo que for.
O governo britânico já reagiu, considerando a medida "um insulto" que apenas transforma "a criação de imagens ilegais num serviço premium".
À SÁBADO, Inês Marinho, criadora da associação Não Partilhes, que apoia vítimas de violência sexual baseada em imagens, explica que “qualquer conteúdo que seja gerado através de IA pode ser considerado deep fake”, contudo, a definição exata é “conteúdo manipulado e sexualizado por IA”.
Estas imagens manipuladas acabam por afetar a visão que os jovens têm sobre o sexo mas também constituem uma distorção do conceito do consentimento. “Se não consigo ver esta pessoa mais nua do que me está a mostrar, posso transformá-la”, exemplifica a especialista. “Constitui um perigo na visão do consentimento, acaba por reduzir a empatia que as pessoas sentem umas pelas outras pois não conseguimos ver as pessoas que estamos a afetar, mesmo que não se trate de conteúdo sexualizado”, acrescenta.
E estas imagens podem afetar as vítimas tanto a nível psicológico, como físico e social. Estas manipulações constituem uma “violação dos direitos da privacidade, abusos sexuais e de exploração” por isso têm impactos no psicológico, as vítimas podem desenvolver ansiedade, “não conseguem voltar à escola, isolam-se”. Além disso, “o conteúdo nem sempre consegue ser percepcionado como falso, e mesmo que seja pode ser usado para atacar a pessoa”, aponta Marinho.
O impacto depende ainda “no passado e na cultura da pessoa, numa cultura mais conservadora” este tipo de manipulações podem ser consideradas para a vítima e para a família uma “vergonha”. Inês Marinho dá o exemplo do caso de Basant Khaled, uma jovem de 17 anos egípcia que tirou a própria vida depois das suas imagens manipuladas terem sido usadas como chantagem.
O advogado Pedro Proença explica à SÁBADO que estas manipulações de imagem ainda não estão autonomizadas como crime, mas podem “enquadrar-se noutros crimes que já existem no código penal”. Neste caso se houver a violação “de direitos fundamentais, direito à imagem, reserva da vida privada, direito à honra e ao bom nome” ou se se tratar de um crime de “devassa da vida privada, gravações e fotos ilícitas difamação agravada, perseguição e pornografia de menores”.
No caso de partilha de imagens íntimas sem consentimento, o advogado nota que o “consentimento para o uso da fotografia original não afasta a prática dos crimes, mesmo que alguém envie uma fotografia consentida, o seu uso externo é ilícito”. Neste caso, a manipulação de uma imagem mesmo que não seja para despir a vítima e seja para a colocar com uma roupa mais reveladora, não é permitido.
Caso seja vítima deste tipo de crime, Inês Marinho nota que deveria de “imediato reportar na aplicação, e especificar o tipo de conteúdo” e a sua idade, assim como procurar apoio psicológico e reportar à Polícia Judiciária. Pedro Proença nota também uma colaboração com a PJ e o Ministério Público “de forma a rapidamente bloquear o acesso ao conteúdo”.
“Até agora havia a defesa do argumento de que a responsabilidade é de quem faz o uso dessa tecnologia, mas a partir de agora, basta haver o potencial de existir o dano para responsabilizar as plataformas”, explica o advogado.
“O AI ACT de 2024 [regulamento da União Europeia (UE)] tem aplicação direta na ordem jurídica portuguesa e vai assumir efeito sancionatório pleno já em 2026” atuando diariamente sobre as ferramentas, “não só sobre a questão da difusão”, nota. Ou seja, quaisquer plataformas “que permitam a IA generativa, com o potencial de manipulação” vão passar a sujeitar-se a penalizações a não ser que criem “ferramentas para evitar a existência desses riscos”.
Já Inês Marinho defende que apesar de haver regulamentação para a IA e para conteúdo manipulado, "o Grok está a fugir a esta regra e a várias leis europeias e de outros países”. Deve-se portanto impor mais transparência e “obrigatoriedade” às plataformas “para mostrarem através de relatórios técnicos” o que se passa nas aplicações.
No que toca a consciencialização dos utilizadores, a especialista afirma é importante informá-los "ao que estão iminentes” e incluir este tipo de casos nas disciplinas de literacia digital e educação sexual uma vez que é “um tema transversal”.
Esta segunda-feira a UE disse que estava a “analisar seriamente” as queixas contra a IA Grok sobre a criação e divulgação de imagens sexualmente explícitas com aparência infantil. “O Grok está agora a oferecer um ‘modo picante’ que mostra conteúdo sexualmente explícito com algumas imagens geradas com imagens infantis. Isto não é picante, isto é ilegal, isto é chocante”, afirmou o porta-voz da UE para assuntos digitais, Thomas Regnier, em conferência de imprensa. “Isto não tem lugar na Europa”, concluiu.
Com Diogo Barreto
