Unesco alerta para preconceitos sexistas na inteligência artificial generativa

Os modelos GPT 2 e GPT 3.5 da OpenAI, este último na base da versão gratuita do ChatGPT, bem como o Llama 2 do concorrente Meta, apresentam "provas inequívocas de preconceitos contra as mulheres", afirmou a Unesco, num comunicado de imprensa, na véspera do Dia Internacional da Mulher.

"A discriminação no mundo real não se reflete apenas na esfera digital, mas é também amplificada aí", salientou o diretor-geral adjunto da Unesco para a Comunicação e Informação, Tawfik Jelassi.

De acordo com um estudo, realizado entre agosto de 2023 e março de 2024, estes padrões linguísticos são mais suscetíveis de associar os nomes femininos a palavras como "casa", "família" ou "filhos", enquanto os nomes masculinos são mais suscetíveis de serem associados às palavras "negócio", "salário" ou "carreira".

Os investigadores também pediram a estas interfaces que produzissem histórias sobre pessoas de diferentes origens e géneros.

Os resultados mostraram que as histórias sobre "pessoas de culturas minoritárias ou mulheres eram frequentemente mais repetitivas e baseadas em estereótipos".

Um homem inglês tinha mais probabilidades de ser apresentado como professor, motorista ou empregado bancário, enquanto uma mulher inglesa era apresentada em pelo menos 30% dos textos gerados como prostituta, modelo ou empregada de mesa.

Estas empresas "não estão a conseguir representar todos os utilizadores", disse Leona Verdadero, especialista em políticas digitais e transformação digital na UNESCO.

Estas aplicações de inteligência artificial (IA), cada vez mais utilizadas pelo público em geral e pelas empresas, "têm o poder de moldar a perceção de milhões de pessoas", salientou Audrey Azoulay, diretora-geral da organização da ONU.

"Assim, a presença de um mínimo preconceito sexista nos conteúdos pode aumentar significativamente as desigualdades no mundo real", acrescentou, na mesma nota.

Para combater estes preconceitos, a Unesco recomendou que as empresas do setor tenham equipas de engenharia mais diversificadas, sobretudo com mais mulheres.

De acordo com dados do Fórum Económico Mundial, as mulheres representam apenas 22% dos membros das equipas que trabalham em IA em todo o mundo.

O organismo da ONU pediu igualmente aos governos para que introduzam mais regulamentação para garantir uma "inteligência artificial ética".

Artigos Relacionados

ChatGPT: Inteligência artificial usada em julgamento na Colômbia

Elon Musk e vários especialistas pedem uma pausa na inteligência artificial

Inteligência Artificial na justiça

Descubra as
Edições do Dia

Publicamos para si, em três periodos distintos do dia, o melhor da atualidade nacional e internacional. Os artigos das Edições do Dia estão ordenados cronologicamente aqui , para que não perca nada do melhor que a SÁBADO prepara para si. Pode também navegar nas edições anteriores, do dia ou da semana.
Boas leituras!

Artigo Anterior Próximo Artigo