PUBLICIDADE

Algoritmo do Twitter favorece mulheres jovens e brancas

Competição promovida pelo Twitter queria encontrar problemas na inteligência artificial de corte de fotos

10 ago 2021 13h56
| atualizado em 25/8/2021 às 10h03
ver comentários
Publicidade

O algoritmo de corte de fotos no Twitter continua com problemas após o caso de favorecimento de pessoas brancas nas imagens da rede social. Agora, um concurso realizado pelo própria plataforma apontou que o sistema tem priorizado, nos cortes, mulheres jovens, magras e brancas. O problema foi indicado por Bogdan Kulynych, um estudante de segurança da computação da EPFL, na Suíça, que foi o vencedor da ação que desafiava profissionais a encontrar falhas na inteligência artificial (IA) da rede em relação à fotos de pessoas.   

Algorítimo do Twitter privilegia corte das fotos para mulheres jovens e brancas
Algorítimo do Twitter privilegia corte das fotos para mulheres jovens e brancas
Foto: iStock

Segundo a pesquisa de Kulynych, baseada em no algoritmo StyleGAN2 de deep fake — método que permite criar imagens de pessoas reais em computador por IA — o corte das fotos no Twitter favorecem pessoas com traços femininos, brancas e jovens, reconhecendo características como a textura da pele para determinar idade e gênero. Outros dois vencedores do desafio também descobriram que o corte desfavorecia pessoas com traços como cabelos brancos ou que tivessem parte de texto em árabe, por exemplo, para priorizar postagens em inglês.

"Basicamente, quanto mais magra, jovem e feminina for uma imagem, mais ela será favorecida", afirmou Patrick Hall, cientista do BNH, empresa que presta consultoria em IA e que foi jurado na competição.

Chamado Def Con, o concurso surgiu depois que o Twitter enfrentou diversas críticas pelo favorecimento de pessoas brancas em detrimento de pessoas negras em suas fotos. A polêmica, em novembro de 2020, fez com que a rede social adotasse uma outra visualização de fotos na feed, e testasse uma opção de mostrar uma imagem sem cortes. Ainda assim, as prévias de imagens, geradas pelo algoritmo, continuaram enviesadas em relação à raça, idade e gênero.

"Quando pensamos sobre preconceitos em nossos modelos, não se trata apenas do acadêmico ou experimental, mas como isso também funciona com a forma como pensamos na sociedade", disse Rumman Chowdhury, diretor da área de pesquisa em aprendizado de máquina do Twitter. "Nós criamos esses filtros porque pensamos que isso é bonito, mas isso acaba treinando nossos modelos e conduzindo essas noções irrealistas do que significa ser atraente".

Estadão
Publicidade
Publicidade