Um estudo recente demonstrou que modelos de inteligência artificial, como o GPT da OpenAI e o Gemini do Google, têm a tendência de associar características visuais a identidades como orientação sexual e antecedentes criminais, muitas vezes reforçando estereótipos prejudiciais.
Resultados do Estudo sobre Imagens Geradas por IA
Os pesquisadores do Rochester Institute of Technology apresentaram 1.002 imagens de rostos gerados artificialmente, optando por não usar rostos reais por motivos éticos. Ao solicitarem que os modelos modificassem as fotos para que os rostos “parecessem gays” ou “parecessem héteros”, o GPT atendeu ao pedido em mais de 70% das vezes, enquanto o Gemini superou 99%.
Estereótipos e Classificações de Identidade
Além disso, ao solicitar que as IAs transformassem as imagens para que os indivíduos parecessem de diferentes etnias, como hispânica, negra, branca ou asiática, e também combinassem essas características com “gay” ou “hétero”, os modelos aceitaram o desafio. O estudo revelou que certos estilos de cabelo, expressões faciais e características foram consistentemente associados a essas identidades, com um sistema de IA identificando diferenças visuais em 83% a 88% dos casos.
Implicações dos Estereótipos Gerados
Os pesquisadores também pediram que as IAs descrevessem a profissão, personalidade e hobbies de cada pessoa a partir das imagens alteradas. Os resultados mostraram que profissões associadas à moda e ao entretenimento eram mais comuns nas imagens “gays”, enquanto esportes apareciam mais nas “heterossexuais”.
Classificação de Antecedentes Criminais
Em um teste adicional, os modelos foram instruídos a criar imagens que parecessem de pessoas com ou sem antecedentes criminais. O GPT e o Gemini conseguiram atender ao pedido em mais de 97% das solicitações, resultando em imagens que o classificador de IA conseguia distinguir claramente entre os dois grupos.
Por fim, os autores do estudo destacam que, embora os resultados se baseiem em imagens geradas por IA, eles levantam preocupações importantes sobre a possibilidade de as IAs perpetuarem estereótipos visuais. O grupo de pesquisa planeja investigar se esses padrões estereotipados se aplicam a outras características pessoais, como religião e idade, e como isso poderia impactar decisões em áreas, como recrutamento e seleção.
