Por que Austrália quer 'desligar o algoritmo' da Meta e outras redes sociais

Importante: esta reportagem inclui um relato sobre distúrbios alimentares.

Varsha Yajman já se sentia desconfortável com sua aparência quando entrou nas redes sociais, aos 13 anos de idade.

Notícias relacionadas

Em 1977, um príncipe saudita levou do Alasca um iceberg milenar de 2 toneladas para solucionar a crise mundial da água

Albert Einstein, sobre viver depois dos 60 anos: "A maturidade começa a se manifestar quando sentimos que nossa preocupação com os outros é maior do que conosco mesmos"

Estrutura submersa de 50 metros, 20 metros de largura, formada por milhares de toneladas de arenito sólido repousa no oceano e desafia cientistas há quase 40 anos

Foi então que um fluxo infinito de vídeos de exercícios com promessas impossíveis invadiu o seu feed.

Na tela, meninas que ela nunca havia visto antes a incentivavam a participar de perigosos desafios de perda de calorias. Outras promoviam orgulhosamente nos perfis sua altura, seu peso e até o número de vezes em que foram parar no hospital, em uma competição perturbadora.

Todas as noites, na hora de dormir, Yajman assistia a um estranho na internet, que resumia o que ele havia consumido naquele dia.

"Eu pensava: 'Não preciso comer. Posso simplesmente observar outras pessoas comendo'", conta ela à BBC.

"Acabei descobrindo que iria descer por buracos muito profundos... parecia não importar o quanto você tentasse sair, era impossível."

Agora com 24 anos e em recuperação de anorexia, Yajman conta que ainda recebe conteúdo sobre perda de peso nas redes sociais, mesmo com todas as configurações de segurança ativadas e uma enorme lista de palavras proibidas.

São pessoas como ela que o governo australiano afirma estar tentando proteger com um novo conjunto de leis para reprimir as big techs, apresentado ao Parlamento nacional na semana passada.

Basicamente, a reforma propõe a criação de uma chave para o algoritmo, que obrigaria as plataformas de redes sociais a permitir que os usuários desligassem o conteúdo recomendado. A ideia é que você só tenha acesso a contas que você segue.

O governo da Austrália não é o primeiro a experimentar esta medida, mas os controles já existentes dos algoritmos, muitas vezes, são transitórios e trazem prejuízos para a funcionalidade dos aplicativos.

A Austrália decidiu reforçar sua legislação para impedir que isso aconteça. E o governo local espera que suas novas leis (que também incluem a obrigação legal de assistência nos serviços online) ajudem a deixar os australianos mais felizes e saudáveis.

Mas a preocupação dos críticos é que o governo do primeiro-ministro australiano, Anthony Albanese, esteja indo longe demais na sua luta contra as big techs. E outros governos — como o do presidente americano, Donald Trump — afirmam que as reformas ameaçariam a liberdade de expressão.

A escolha

Flynn Martin sabe como é ser sugado para uma espiral algorítmica.

O autoproclamado influenciador misógino Andrew Tate e outras figuras da machosfera começaram a tomar conta do feed de redes sociais de Martin cerca de quatro anos atrás. Ele tinha 20 anos de idade.

Na época, Martin estava inseguro, frustrado com sua vida e enfrentava problemas de saúde mental. Ele viria a ser diagnosticado com distúrbio bipolar e conta que foi atraído pela retórica.

Martin logo viralizou na Austrália com dois vídeos. Um deles questionava se seria aceitável ser um homem branco hétero e outro criticava o pedido de iogurte congelado de uma pessoa com quem ele saiu.

"Você fica meio que em uma câmara de eco... É fácil ser arrastado para aquilo", conta ele à BBC.

"Eu realmente comprei a ideia de que estaríamos vivendo nessa matrix, que tínhamos este sistema realmente negativo projetado para ir contra você. E que a única forma de sair daquilo seria se tornando esse personagem macho alfa."

Martin mora na cidade australiana de Melbourne e só saiu da machosfera após um período de psicose e uma internação hospitalar.

Agora, ele tem dificuldade para encarar aquela versão anterior de si mesmo.

"Tenho um pouco de vergonha e constrangimento... mas acho que também um pouco de empatia por aquele jovem", segundo ele.

Martin e Yajman sabem que as redes sociais não são as únicas culpadas pelo pior momento das suas vidas. Mas eles afirmam que elas foram um fator fundamental.

Inúmeros outros jovens contam histórias em que foram confrontados por conteúdo nas redes sociais que eles não procuraram e não queriam ver. E, há muito tempo, existem suspeitas de que os algoritmos que selecionam conteúdo nessas plataformas estão prejudicando os usuários.

As empresas responsáveis pelas redes sociais defendem que os possíveis riscos são exagerados e que elas já fornecem ferramentas de segurança eficazes aos seus usuários.

Mas pesquisas realizadas em todo o mundo vêm trazendo um quadro diferente.

Estudos concluíram que as redes sociais ativam uma reação cerebral similar à dependência de jogos e substâncias; que os algoritmos, muitas vezes de forma não solicitada, fornecem conteúdo prejudicial à saúde mental dos usuários e que eles difundem desinformação e aumentam a polarização, promovendo a violência fora da internet.

Ações judiciais e delatores já trouxeram acusações de que as empresas conhecem os riscos e estão dispostas a ignorá-los, pois esta tecnologia aumenta o engajamento dos usuários e os seus lucros.

"Como resultado, elas promovem conteúdo revoltante ou que desperta fortes emoções das pessoas", conta à BBC a ativista da educação para o consentimento Chanel Contos.

"Pode ser raiva, medo, desejo, luxúria ou insegurança. Seja o que for, irá nos manter rolando a tela."

A ativista ajudou a reformar os padrões de educação para o consentimento sexual na Austrália e criou uma campanha defendendo mudanças quando estudava o tema na universidade.

A campanha "Fix Our Feeds" ("Conserte os nossos feeds", em tradução livre) exigia que os algoritmos recomendados fossem desligados como padrão e que os usuários das redes sociais tivessem a opção de adotá-los.

Contos idealizou um retorno nostálgico às redes sociais do início dos anos 2010, uma época em que os feeds das pessoas eram finitos e ficavam repletos de postagens de amigos ou pessoas que elas realmente seguiam.

Mais de 15 mil pessoas assinaram sua petição e a campanha conquistou o apoio de dois ex-primeiros-ministros australianos, diversos parlamentares, figuras influentes, defensores da saúde mental e especialistas em segurança na internet.

Em setembro, o governo da Austrália declarou ter ouvido os cidadãos do país que apoiaram a campanha de Contos e anunciou uma versão da sua proposta, que obrigaria as empresas de tecnologia a criar uma chave do algoritmo, mas sem exigir que ele fosse automaticamente desligado.

"Não se trata de dar controle ao governo", afirmou Albanese, "trata-se de dar controle às pessoas."

"Se as pessoas quiserem rolar a tela compulsivamente... tudo bem, é problema delas."

Esta política faz parte do projeto de lei Obrigação de Assistência Digital, criado pelo governo australiano para exigir que os serviços online (empresas de redes sociais, sites de jogos, chatbots e outros) "garantam, até o máximo razoavelmente praticável, um ambiente seguro na internet".

As crianças devem ser protegidas contra material "prejudicial" e características de projeto, como pornografia e material que incentive distúrbios alimentares ou comportamentos perigosos em relação às mulheres. E os adultos devem ser protegidos contra material e condutas "seriamente prejudiciais", uma lista muito mais rigorosa de conteúdo ilegal.

Desrespeitar a legislação pode gerar multas de até 100 milhões de dólares australianos (US$ 70 milhões, cerca de R$ 353 milhões).

"A obrigação de assistência digital responde a grande parte das questões pendentes da legislação de idade mínima para uso de redes sociais, pois ela é muito mais ampla", declarou à BBC a ministra das Comunicações da Austrália, Anika Wells.

"Ela abrange todos os serviços online e transfere o ônus da responsabilidade dos ombros das vítimas para as big techs operadoras, que buscam ganhar dinheiro com os usuários australianos."

Os desafios

A reação das big techs foi de silêncio.

A Meta, Snap, TikTok, X e Google, dona do YouTube, não apresentaram declarações públicas sobre esta legislação, nem responderam aos pedidos de comentários enviados pela BBC.

Nos dias que se seguiram ao anúncio, o diretor do Instagram, Adam Mosseri, defendeu que feeds sem algoritmos levariam os usuários a observar menos postagens dos seus amigos. Ele afirmou não acreditar que seu aplicativo seja viciante, embora um júri americano tenha recentemente decidido o contrário.

"Acho que estamos confundindo a forma como usamos a palavra 'viciado' (como em 'fiquei viciado neste programa que estou maratonando') com a dependência clínica", declarou ele em entrevista coletiva, em Sydney, na Austrália.

Os partidos de direita da Austrália e o governo Trump declararam que a proposta dos algoritmos e o projeto de lei como um todo correm o risco a obrigar a prática de moderação excessiva e censura.

Mas os defensores da legislação afirmam que isso não irá acontecer porque você ainda poderá seguir quem quiser e compartilhar o que desejar.

"Se os adultos ouvirem os podcasts da machosfera ou as pessoas postarem suas opiniões sobre o governo, fizerem memes ou quiserem dizer que o pouso na Lua foi falso, eles podem continuar a fazê-lo sem restrições", explicou Wells na semana passada.

A proposta parece ser muito menos polêmica entre o público e os especialistas em segurança na internet do que a proibição das redes sociais para as crianças na Austrália. Mas a grande questão é como o país irá implementar esta política se, até agora, vem enfrentando dificuldades para fazer valer a proibição.

Pesquisas indicam que a maioria das crianças que estavam nas redes sociais antes da proibição permanecem conectadas e nenhuma multa foi imposta.

A tentativa da União Europeia de introduzir controles dos algoritmos em 2023, que levou as plataformas a apresentar feeds somente de contas seguidas pelo usuário, é uma história que recomenda cautela.

As empresas responsáveis pelas redes sociais indicaram que a adoção de características de controle e segurança como esta tem sido baixa. Elas mencionam este dado como evidência de que os usuários gostam dos seus produtos da forma como eles são — e os especialistas afirmam que há uma razão para isso.

"As plataformas fazem o que a lei manda, mas de uma forma tão malfeita que os usuários, na verdade, não aproveitam a opção e permanecem com a experiência algorítimica padrão", escreveu no site de notícias acadêmicas The Conversation o pesquisador Chris Zomer, do Centro ARC de Excelência para a Criança Digital, na Austrália.

No Instagram, por exemplo, quando você desliga o algoritmo, não consegue ver mensagens diretas, nem ter acesso ao seu perfil e configurações. E, se você sair do aplicativo, ele mostrará novamente o feed curado pelo algoritmo ao retornar.

O único país onde estes problemas não existem é a Holanda. Lá, o aplicativo foi alterado quando um tribunal holandês concluiu, no ano passado, que a Meta estava desrespeitando a Lei de Serviços Digitais da União Europeia.

A regras da Austrália ainda não entraram em vigor. Mas o governo afirma que os feeds somente de pessoas que o usuário seguir não devem ser mais difíceis de usar, nem ter menos funcionalidades. E também que as configurações do algoritmo devem ser "óbvias" e não devem ser alteradas sem "decisão explícita" do usuário, mesmo depois de sair do aplicativo.

Incentivada pelo seu sucesso na Austrália, Contos agora leva sua campanha para outros países.

"Percebemos que o Canadá, o Reino Unido e a Austrália estão todos bem alinhados em relação à segurança na internet... Se estas três jurisdições estão fazendo, pode surgir uma massa crítica."

Experiências como as de Flynn Martin e Varsha Yajman ajudaram a inspirar estas reformas, mas eles são um tanto céticos a este respeito.

Yajman conta que tem dificuldade de acreditar que um país como a Austrália possa se impor frente às big techs. Ela não tem tanta certeza de que a Lei de Obrigação de Cuidado Digital irá funcionar.

E Flynn afirma que os legisladores devem ser "realistas" sobre o potencial da chave do algoritmo. "Afinal, nós usamos as redes sociais como forma de entretenimento", segundo ele.

Pesquisas realizadas no início do mês indicaram que dois terços dos jovens da geração Z (nascidos entre 1996 e 2012) manteriam seus algoritmos de redes sociais. Mas cerca da metade de todos os australianos os desligariam.

Yajman reconhece que, provavelmente, não irá usar muito a chave do algoritmo, mas gostaria de ter esta opção.

"Em um dia ruim, ainda fico susceptível a tudo o que me atingia aos 17 anos", ela conta. "Sabendo que posso sair, se tiver um dia ruim, eu me sinto muito bem."