Algoritmo do Twitter favorece mulheres jovens e brancas
Competição promovida pelo Twitter queria encontrar problemas na inteligência artificial de corte de fotos
O algoritmo de corte de fotos no Twitter continua com problemas após o caso de favorecimento de pessoas brancas nas imagens da rede social. Agora, um concurso realizado pelo própria plataforma apontou que o sistema tem priorizado, nos cortes, mulheres jovens, magras e brancas. O problema foi indicado por Bogdan Kulynych, um estudante de segurança da computação da EPFL, na Suíça, que foi o vencedor da ação que desafiava profissionais a encontrar falhas na inteligência artificial (IA) da rede em relação à fotos de pessoas.
Segundo a pesquisa de Kulynych, baseada em no algoritmo StyleGAN2 de deep fake — método que permite criar imagens de pessoas reais em computador por IA — o corte das fotos no Twitter favorecem pessoas com traços femininos, brancas e jovens, reconhecendo características como a textura da pele para determinar idade e gênero. Outros dois vencedores do desafio também descobriram que o corte desfavorecia pessoas com traços como cabelos brancos ou que tivessem parte de texto em árabe, por exemplo, para priorizar postagens em inglês.
"Basicamente, quanto mais magra, jovem e feminina for uma imagem, mais ela será favorecida", afirmou Patrick Hall, cientista do BNH, empresa que presta consultoria em IA e que foi jurado na competição.
Chamado Def Con, o concurso surgiu depois que o Twitter enfrentou diversas críticas pelo favorecimento de pessoas brancas em detrimento de pessoas negras em suas fotos. A polêmica, em novembro de 2020, fez com que a rede social adotasse uma outra visualização de fotos na feed, e testasse uma opção de mostrar uma imagem sem cortes. Ainda assim, as prévias de imagens, geradas pelo algoritmo, continuaram enviesadas em relação à raça, idade e gênero.
Trying a horrible experiment...
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
— Tony "Abolish ICE" Arcieri (@bascule) September 19, 2020
"Quando pensamos sobre preconceitos em nossos modelos, não se trata apenas do acadêmico ou experimental, mas como isso também funciona com a forma como pensamos na sociedade", disse Rumman Chowdhury, diretor da área de pesquisa em aprendizado de máquina do Twitter. "Nós criamos esses filtros porque pensamos que isso é bonito, mas isso acaba treinando nossos modelos e conduzindo essas noções irrealistas do que significa ser atraente".
