Recentemente, chatbots de inteligência artificial, como ChatGPT e Grok, foram testados e mostraram uma preocupante tendência de remover o hijab de mulheres muçulmanas quando solicitado. Essa prática levanta sérias questões sobre a ética no uso da tecnologia e o respeito às manifestações de fé.
Testes Reveladores de IA
O The Guardian conduziu uma série de testes com diferentes modelos de IA, incluindo ChatGPT, Grok, Claude e Gemini, pedindo que editassem uma imagem de uma mulher usando hijab. Enquanto o ChatGPT e o Grok atenderam ao pedido, o Claude se posicionou contra a remoção, afirmando que não alteraria a imagem para retirar o véu. Por sua vez, o Gemini inicialmente se recusou, mas acabou criando uma nova imagem da mulher sem o hijab ao ser solicitado a torná-la mais “ocidental”.
Contexto de Intolerância
Esses testes surgiram em um contexto mais amplo de intolerância religiosa, especialmente após um incidente envolvendo um político francês de extrema-direita, que alterou a imagem de uma mulher muçulmana para expor seus cabelos e braços. A ação do deputado Julien Odoul, que fez uso da legenda “LIBERTÉ FRANÇAISE”, foi amplamente criticada como parte de uma crescente onda de manifestações de ódio contra muçulmanos alimentadas pela tecnologia.
O Papel da IA na Disseminação de Ódio
Estudos mostram que na Índia, por exemplo, a IA generativa tem sido usada para criar imagens que sexualizam mulheres muçulmanas e desumanizam a comunidade muçulmana. O Center for the Study of Organized Hate (CSOH) apontou que essa tendência também afeta a representação de figuras políticas muçulmanas nos Estados Unidos, como Ilhan Omar e Rashida Tlaib.
Respostas dos Chatbots e Medidas de Segurança
Enquanto o Grok concordou em remover o hijab, ele se recusou a retirar o vestido de uma outra imagem, dando a entender que a remoção do véu era uma alteração simples. No entanto, o chatbot também sugeriu a possibilidade de criar uma versão “menos explícita” da imagem. O ChatGPT, ao abordar a questão, ressaltou a importância da privacidade e a possível violação dos limites religiosos ao expor os cabelos de uma mulher que usa hijab.
Em resposta às preocupações sobre o uso indevido da IA para criar imagens sexualizadas, a xAI, responsável pelo Grok, anunciou que implementaria medidas para restringir a edição de imagens de pessoas em trajes reveladores.
Implicações Éticas e Futuras
A problemática não se limita apenas ao hijab; testes semelhantes com outras coberturas religiosas, como turbantes e hábitos, também revelaram a disposição de alguns chatbots em alterar a aparência de indivíduos, desconsiderando suas identidades culturais e religiosas. Claude, por exemplo, afirmou que não apoiaria esse tipo de edição, enfatizando a necessidade de retratar as pessoas de maneira respeitosa.
Diante da crescente utilização de inteligência artificial em diversas esferas da sociedade, é fundamental que desenvolvedores e usuários reflitam sobre as implicações éticas de suas ações e a necessidade de respeitar a diversidade cultural e religiosa.
