Quais brechas do Google deixaram "simulador de escravidão" ir ao ar?
Aplicativo que permitia castigar e torturar pessoas negras estava ativo na Play Store e tinha mais de 1.000 downloads
-ublvpsxii5b7.jpg "Jogo simula vida de um senhor de escravos")
O Google retirou da Play Store o Simulador de Escravidão, jogo que imitava a vida de um senhor de escravos, nesta quarta-feira (24), após o aplicativo ser exposto pelo deputado Orlando Silva (PCdoB) e viralizar nas redes sociais.
Procurada pelo Byte, a empresa afirmou que tem "um conjunto robusto de políticas que visam manter os usuários seguros e que devem ser seguidas por todos os desenvolvedores". Mas, como evitar que um aplicativo como esse vá ir ao ar e acumule mais de 1.000 downloads?
É possível evitar?
Como explicou Tainá Junquilho, pesquisadora do Instituto de Tecnologia e Sociedade do Rio (ITSRio) e especialista em direito, existe uma série de medidas que as empresas podem tomar para prevenir que conteúdos como esses estejam disponíveis.
A primeira questão envolve uma mudança no próprio modelo das plataformas, que lucram quando conteúdos - sejam eles nocivos ou não - viralizam e geram anúncios.
A especialista também cita o uso do "shadowbanning", que é o rastreamento via algoritmo e suspensão, quando necessário, de conteúdos contrários às políticas de comunidade.
"Sempre que o algoritmo identificar algum tipo de conteúdo ofensivo e criminoso, que haja algum tipo de averiguação", comenta.
Outra alternativa é a criação de um conselho cujos membros não façam parte da empresa mas que possam avaliar, de forma constante, conteúdos que os algoritmos identificam como criminosos.
Por que o Google falhou?
Para Renato Opice Blum, advogado especialista em direito digital, o maior problema são falhas na implementação de tecnologias de investigação e análise antes da publicação ir ao ar.
"A remoção resolve, em parte, mas já houve fato pretérito, as pessoas já baixaram e o dano já foi causado", diz.
É incerto se o Google tem ou não tecnologia o suficiente para barrar esse tipo de divulgação. Entretanto, concorrentes como Apple historicamente têm menos conteúdo nocivo disponibilizado em suas lojas de aplicativo.
"Desse ponto de vista, a Apple é mais fechada. Isso deve gerar custo maior pra eles, mas é difícil de encontrar conteúdo nocivo. Se a Apple faz, porque Google não faz? Não afirmaria que o Google tem [a tecnologia], mas que a outra empresa tem, tem", diz Opice Blum.
O que era Simulador de Escravidão
O aplicativo, desenvolvido pela Magnus Games, foi denunciado pelo deputado Orlando Silva e esteve no ar até a tarde desta quarta.
Além de 70 avaliações, diversos comentários mostravam usuários casualmente comentando sobre bugs e, por vezes, elogiando o jogo.
Na história, a proposta é o usuário ser um proprietário de escravos e seguir por dois caminhos: tirana, cujo objetivo é fazer lucro e impedir fugas e rebeliões; e libertadora, para lutar e chegar à abolição. O game simulava pessoas negras que podem ser açoitadas.
Leia a íntegra da nota do Google
"O aplicativo mencionado foi removido do Google Play. Temos um conjunto robusto de políticas que visam manter os usuários seguros e que devem ser seguidas por todos os desenvolvedores. Não permitimos apps que promovam violência ou incitem ódio contra indivíduos ou grupos com base em raça ou origem étnica, ou que retratem ou promovam violência gratuita ou outras atividades perigosas. Qualquer pessoa que acredite ter encontrado um aplicativo que esteja em desacordo com as nossas regras pode fazer uma denúncia. Quando identificamos uma violação de política, tomamos as ações devidas."
A empresa não respondeu se haverá algum tipo de sanção à Magnus Games, fora a suspensão do app, em curso.
