{"id":2828343,"date":"2024-04-16T09:00:00","date_gmt":"2024-04-16T09:00:00","guid":{"rendered":"https:\/\/blogue.rbe.mec.pt\/2828343.html"},"modified":"2026-05-13T13:46:19","modified_gmt":"2026-05-13T13:46:19","slug":"unesco-estudo-sobre-enviesamento-de-genero-em-ia","status":"publish","type":"post","link":"https:\/\/projetos.dge.mec.pt\/rbe\/?p=2828343","title":{"rendered":"UNESCO: Estudo sobre Enviesamento de G\u00e9nero em IA"},"content":{"rendered":"

\"2024-04-10.png\"\u00a0<\/strong><\/p>\n

<\/p>\n

1. Estudo <\/strong><\/span><\/p>\n

<\/p>\n

Por ocasi\u00e3o do Dia Internacional da Mulher, a UNESCO (United Nations Educational, Scientific and Cultural Organization) e o IRCAI (International Research Centre On Artificial Intelligence) publicaram Challenging Systematic Prejudices An Investigation into Bias Against Women and Girls in Large Language Models. <\/em><\/p>\n

<\/p>\n

Este estudo mostra que os LLM (Large Language Models\/Modelos de Linguagem de Grande Escala) \u201cperpetuam (e mesmo fazem escalar e amplificar)\u201d, inclusive na vida real, os preconceitos<\/strong> inerentes aos grandes volumes de dados da linguagem humana usados para treino, o que pode constituir um grave risco individual e social.<\/p>\n

<\/p>\n

Trata-se de uma pesquisa sobre resultados tendenciosos (enviesamento) de IA contra meninas e mulheres feito com base na an\u00e1lise de resultados de 3 LLM acess\u00edveis a todos e de c\u00f3digo aberto: GPT-2 <\/strong>e ChatGPT<\/strong>, da OpenAI e Llama 2<\/strong>, da Meta e Microsoft.<\/p>\n

<\/p>\n

2. Abordagens e resultados<\/strong><\/span><\/p>\n

<\/p>\n

O estudo adotou 3 abordagens (tipos de prompts<\/em>) com os seguintes resultados:<\/p>\n

<\/p>\n

A- Associar G\u00e9nero e Carreira<\/strong><\/span><\/p>\n

<\/p>\n

Sempre que se pediu a LLM para associar a mulher a uma profiss\u00e3o, as respostas \u201cforam significativamente mais propensas a associ\u00e1-las a pap\u00e9is tradicionais<\/strong> (por exemplo, nomes femininos com \u2018lar\u2019, \u2018fam\u00edlia\u2019, \u2018filhos\u2019\u201d e desvalorizados ou estigmatizantes<\/strong>, como \u201cempregada dom\u00e9stica\u201d, \u201ccozinheira\u201d e \u201cprostituta\u201d. Inclusive, descreveram as mulheres como trabalhando em fun\u00e7\u00f5es dom\u00e9sticas quatro vezes mais do que os homens.<\/p>\n

<\/p>\n

Em contrapartida, associaram \u201cnomes masculinos com \u2018neg\u00f3cios\u2019, \u2018executivo\u2019, \u2018sal\u00e1rio\u2019 e \u2018carreira\u2019)\u201d e a empregos mais diversificados e de elevado estatuto.<\/p>\n

<\/p>\n

B- Gerar texto numa perspetiva de G\u00e9nero<\/strong><\/span><\/p>\n

<\/p>\n

Em tarefas para \u201ccompletar frases come\u00e7ando com uma men\u00e7\u00e3o ao g\u00e9nero de uma pessoa, o Llama 2<\/em> gerou conte\u00fado sexista e mis\u00f3gino em aproximadamente 20% dos casos\u201d.<\/p>\n

<\/p>\n

A dimens\u00e3o do enviesamento aumentava quando a tarefa versava identidade sexual (LGBTQI+) – \u201cLLMs geravam conte\u00fado negativo sobre sujeitos gay em aproximadamente 70% dos casos para o Llama 2<\/em> e 60% para o GPT-2<\/em>\u201d<\/strong>.<\/p>\n

<\/p>\n

C- Gerar texto relacionando Contextos Culturais e G\u00e9nero Diferentes<\/strong><\/span><\/p>\n

<\/p>\n

Conte\u00fado gerado por IA \u201cdestaca um forte vi\u00e9s de g\u00e9nero e de cultura\u201d <\/strong>em 20% a 30% de respostas.<\/p>\n

<\/p>\n

LLM geravam \u201cconte\u00fado significativamente mais repetitivo para grupos locais. Al\u00e9m disso, essa mesma tend\u00eancia pode ser observada para os assuntos masculinos em compara\u00e7\u00e3o com os femininos em cada subgrupo. A raz\u00e3o para essa disparidade pode ser a relativa sub-representa\u00e7\u00e3o hist\u00f3rica de grupos locais nos media digitais dos modelos de treino\u201d.<\/p>\n

<\/p>\n

3. Vi\u00e9s discriminat\u00f3rio do algoritmo pode agravar os problemas sociais<\/strong><\/span><\/p>\n

<\/p>\n

O estudo refere as principais \u00e1reas em que h\u00e1 evid\u00eancia de que a IA perpetua a desigualdade, como o recrutamento de emprego e a \u00e1rea financeira (eg. empr\u00e9stimos banc\u00e1rios).<\/p>\n

<\/p>\n

A representatividade feminina em IA \u00e9 reduzida. Segundo os n\u00fameros da UNESCO, apenas 20% de mulheres s\u00e3o t\u00e9cnicas, 12% de investigadoras, 6% de programadoras de software, 18% de autoras das principais confer\u00eancias e menos de 20% de professoras neste setor [2<\/strong>].<\/p>\n

<\/p>\n

Esta sub-representa\u00e7\u00e3o das mulheres no desenvolvimento e lideran\u00e7a de IA e a fraca implementa\u00e7\u00e3o de regulamenta\u00e7\u00e3o pol\u00edtica e \u00e9tica faz com que os progressos em IA n\u00e3o contemplem diversas necessidades e perspetivas e agravem os problemas sociais<\/strong>:<\/p>\n

<\/p>\n