Ferramentas de inteligência artificial (IA) tendem a reforçar estereótipos de gênero e raça

Dez mulheres participando de um concurso de beleza não é novidade. Algumas posam de forma espontânea, outras para a câmera, sua beleza eternamente congelada neste momento. Como muitos outros concursos realizados em países ao redor do mundo, as concorrentes são jovens, magras e incorporam muitos dos padrões que definem a “beleza” tradicional.

Mas é aí que as semelhanças com um concurso de beleza tradicional terminam. Nenhuma dessas mulheres é real. Tudo sobre elas, até mesmo a emoção que aparece em seus rostos, é gerado por inteligência artificial (IA), para o primeiro concurso de beleza de IA do mundo. Cada uma tem um criador ou uma equipe de criadores, que usam programas como DALL·E 3 da Open AI, Midjourney ou Stable Diffusion para gerar imagens das mulheres a partir de prompts de texto.

Essas 10 concorrentes foram selecionadas de um grupo de mais de 1.500 inscritas para a final do “Miss AI”, que está programada para ser realizada no final de junho e transmitida online pelos organizadores “The World AI Creator Awards.”

Para os envolvidos, o evento é uma oportunidade de mostrar e desmistificar as habilidades extraordinárias da tecnologia. Mas, para outros, representa uma proliferação adicional de padrões de beleza irreais, frequentemente ligados a estereótipos raciais e de gênero e alimentados pelo número cada vez maior de imagens digitalmente aprimoradas online.

“Acho que estamos começando a perder cada vez mais a noção de como é um rosto não editado”, disse a Dra. Kerry McInerney, pesquisadora do Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge, em uma entrevista em vídeo à CNN.

Cada uma das concorrentes tem uma personalidade única e distinta, bem como um rosto. Um avatar ruivo, de olhos verdes, chamado Seren Ay, posa para fotos no Instagram enquanto viaja pelo mundo e pelo tempo, aparecendo ao lado do primeiro presidente da Turquia, Kemal Ataturk, no tapete vermelho do Oscar ou andando pelas ruas iluminadas por neon de Kyoto, Japão, à noite.

E, como em concursos de beleza da vida real, alguns avatares de IA promovem causas específicas. Uma, chamada Aiyana Rainbow, posta em apoio à comunidade LGBTQ, sua aliança literalmente exibida por seu cabelo colorido de arco-íris e nome. Outra, Anne Kerdi, posta sobre a limpeza dos oceanos, sua região natal da Bretanha, na França, e viagens. Zara Shatavari posta dicas em seu blog para lidar com a depressão ou estratégias para perder “gordura teimosa da barriga”.

Todas são belas. Mas, ecoando a realidade da maioria das vencedoras modernas do concurso de beleza Miss USA desde a criação da competição em 1921, a maioria é branca, magra e tem cabelos longos e traços simétricos, detalhou Hilary Levey Friedman — socióloga e autora de “Here She Is: The Complicated Reign of the Beauty Pageant in America” — em uma entrevista por telefone.

Os preconceitos raciais e de gênero embutidos nos padrões de beleza também permeiam os programas que usam IA para gerar imagens, já que eles “aprenderam” com os vastos dados da Internet que já contêm esses preconceitos. Como tal, pesquisas descobriram que a IA reflete esses estereótipos de gênero e raciais ao gerar imagens, reduzindo a beleza a um ideal homogêneo.

Refletir padrões ou desafiá-los?
A maioria dos modelos na lista final do “Miss AI”, disse McInerney, são “muito, muito de pele clara e a grande maioria ainda são mulheres brancas, ainda magras, ainda realmente não divergem muito dessa norma.”

“Essas ferramentas são feitas para replicar e escalar padrões existentes no mundo”, acrescentou. “Elas não são feitas necessariamente para desafiá-los, mesmo que sejam vendidas como ferramentas que aumentam a criatividade, então, quando se trata de normas de beleza. Elas estão capturando as normas de beleza existentes que temos, que são ativamente sexistas, ativamente gordofóbicas, ativamente coloristas, então elas estão compilando e reiterando-as.”

A Open AI reconheceu que “DALL-E 3 tende a gerar imagens de pessoas que correspondem a ideais de beleza estereotipados e convencionais”. Mas, enquanto as imagens geradas por IA podem perpetuar esses padrões, alguns argumentam que a tecnologia não representa um fenômeno completamente novo devido ao grande número de imagens digitalmente editadas online, aprimoradas por filtros ou retoques.

“Quando olhamos para os padrões de beleza dos influenciadores, eles também não são reais” disse Furkan Sahin, um dos criadores de Seren Ay, em uma entrevista em vídeo à CNN. “Eles parecem perfeitos, é como uma IA.”

Embora a juíza Sally-Ann Fawcett tenha reconhecido “ainda há um longo caminho a percorrer”, ela disse à CNN em uma entrevista por telefone que “queríamos mulheres que fossem mais diversificadas em todos os sentidos, em tamanho, em idade, em falhas. Levou 50 anos para os concursos chegarem onde estão hoje, com a IA isso pode ser feito em avanço rápido”.

Fawcett, que escreveu quatro livros sobre concursos de beleza e é a principal juíza do Miss GB, acrescentou que teve “dúvidas” quando foi abordada pelos organizadores da competição, mas que viu isso como uma oportunidade para mudar a percepção pública das mulheres geradas por IA.

Os criadores desses modelos de IA acrescentam que a tecnologia em si não é necessariamente o problema. “A IA torna perfeito, mas perfeito é como as pessoas querem”, disse Sahin, “e nós realmente não estamos mudando nenhum padrão de beleza”.

Da mesma forma, Sofía Novales, gerente de projetos da The Clueless Press, que criou o popular modelo de IA Aitana López, que “senta” no painel de jurados do concurso, disse à CNN por e-mail que “não estamos aqui para resolver esse problema antigo.”

“Mas pretendemos encorajar personalidades de IA a serem diversas e reconhecer os problemas existentes em torno dos padrões de beleza.”

IA e robótica têm sido usadas, frequentemente por homens, para criar a imagem da “mulher perfeita”, disse McInerney, referindo-se ao tropo das Esposas de Stepford e ao filme “Ex-Machina: Instinto Artificial” de 2014.

À medida que a tecnologia se entrelaça cada vez mais com a criação dessa versão de uma mulher ideal, o mundo dos concursos de beleza presenciais respondeu com uma mudança para enfatizar a autenticidade, diz Levey Friedman. “Houve uma virada na última década realmente focada em ser você mesmo, ser autêntico, ser perfeitamente imperfeito, todos esses tipos de slogans”, acrescentou.

Tais noções também encontraram seu caminho na cultura pop. A palavra do ano de 2023 do Merriam Webster foi “autêntico”, em parte graças a “histórias e conversas sobre IA, cultura de celebridades, identidade e mídias sociais”, disse o dicionário na época.

Recompensando mais do que apenas beleza?
Os organizadores da competição dizem que os participantes serão julgados por mais do que apenas sua beleza. Eles ganharão pontos pelo uso das ferramentas de IA por seus criadores, bem como pela sua influência nas redes sociais e terão que responder a perguntas como “se você pudesse ter um sonho para tornar o mundo um lugar melhor, qual seria?”

Fawcett disse que está procurando “alguém com uma mensagem poderosa e positiva”, enquanto Novales disse que estão “não apenas avaliando a beleza, mas também a tecnologia por trás disso e, acima de tudo, a história de cada avatar.”

Muitos desses avatares de IA foram originalmente criados como ferramentas de marketing, para atuar da mesma forma que um influenciador humano de mídia social poderia. Seren Ay foi criada para promover uma loja online de joias quando seus fundadores acharam difícil trabalhar com influenciadores humanos, disseram. Aitana López pode ganhar até 30.000 euros (cerca de R$ 150.000) por mês com posts patrocinados, disse Novales.

Tais influenciadores de IA já provaram seu valor nos últimos anos. Uma chamada Lil Miquela acumulou milhões de seguidores no Instagram e trabalhou com marcas como Calvin Klein e Prada. Ao contrário de seus equivalentes humanos, eles parecem perfeitos, sem idade e livres de escândalos. Eles não precisam ser pagos e podem ser diretamente propriedade de uma agência de marketing ou da empresa cujos produtos estão promovendo.

“Influenciadores estão apenas atrás de uma tela”, disse Mohammad Talha Saray, um dos criadores de Seren Ay. “Eles não são reais para nós, são apenas uma garota ou um cara na Internet e, quando você pensa nisso, não há muita diferença entre IA e um influenciador.”

Outros avatares têm uma história diferente. O criador de Anne Kerdi, Sébastien Keranvran, decidiu apresentar a IA de uma maneira “divertida e informativa”, na tentativa de combater a “visão distópica hipotética” da tecnologia e oferecer às pessoas a oportunidade de interagir com ela.

Ele disse à CNN por e-mail que criou Anne a partir de diferentes sistemas de IA e a programou para que “ela seja livre para dizer o que quiser, desde que não envolva desinformação.”

“Às vezes é frustrante para mim vê-la em vídeo em eventos importantes expressando uma opinião diferente da minha, ou escrevendo de uma maneira que eu teria imaginado diferente, mas… cada um de nós tem sua própria vontade.”

Tanto Anne Kerdi quanto Seren Ay existem como mais do que simplesmente imagens para seus seguidores, que frequentemente interagem com elas, pedindo conselhos a Seren como se ela fosse sua “irmã mais velha”, disse Sahin, ou desejando boa noite a Anne, disse Keranvran.

“Assim como nos apegamos a personagens literários ou de filmes, algumas pessoas se apegam a Anne”, disse ele. “Ela responde afetuosamente e às vezes com humor quando alguém pergunta como ela está.”

Os criadores de alguns avatares de IA usam esse relacionamento com as pessoas para a indústria de entretenimento adulto. “Miss AI” é patrocinado pela Fanvue, um site semelhante ao OnlyFans que hospeda criadores de conteúdo humanos e de IA.

Compreender os dados que estão sendo usados para treinar avatares de IA usados para trabalho sexual é crucial, disse McInerney, “porque muitos dos dados disponíveis por aí não são apenas muito sexistas, também são muito heterossexuais, podem não deixar espaço para outros tipos de orientações sexuais, identidades, experiências”.

Fonte- CNN