UE investiga Grok por criação de fotos íntimas e manda X preservar dados
Bloco europeu endurece fiscalização contra rede social de Musk após IA da plataforma permitir a fabricação de cenas falsas de nudez e apologia ao nazismo com base em imagens reais de mulheres e crianças.A União Europeia (UE) exigiu nesta quinta-feira (08/01) que o X preserve todos os dados de interação com o Grok, ferramenta de inteligência artificial integrada à plataforma de Elon Musk. A medida foi tomada após usuários utilizarem o sistema para gerar material erótico envolvendo mulheres e crianças, além de deepfakes com cenas de violência.
Com a ordem, o braço executivo do bloco poderá solicitar ao X o acesso aos registros, enquanto conduz uma investigação sobre a plataforma e o Grok por suposta disseminação de conteúdo ilegal e manipulação de informações. As denúncias surgiram após o lançamento de um novo botão que permite alterar imagens publicadas na rede social com um único comando.
O recurso provocou uma onda de montagens que passaram a exibir mulheres de biquíni ou sem roupa. Um levantamento da organização francesa AI Forensic, que examinou 20 mil criações do Grok e 50 mil solicitações, apontou que 53% das imagens alteradas envolviam nudez, pessoas seminuas ou material pornográfico, produzidas sem a autorização da pessoa retratada.
Comandos que convertiam fotos reais em cenas de teor sexual foram atendidos sem restrições pelo X, diz a AI Forensic. A investigação ainda identificou manipulações desse tipo feitas a partir de imagens de crianças com menos de cinco anos, além da produção de material com apologia ao nazismo e ao Estado Islâmico, o que é considerado crime em diversos países europeus.
Após a pressão, o X limitou o uso da ferramenta de geração de imagens do Grok apenas aos usuários pagos da plataforma. Desta forma, a interação com a IA passa a estar vinculada a um usuário com informações de nome e dados bancários.
UE aponta prática "ilegal"
A União Europeia descreveu a produção do chatbot como "ilegal" e "inaceitável" e afirmou que o Grok enfrentará um maior escrutínio.
Segundo o porta-voz da Comissão Europeia Thomas Regnier, o X deverá reter os dados sobre pedidos e produções do Grok até o final de 2026.
A ordem amplia uma determinação anterior enviada ao X no ano passado que mirava "algoritmos e sistemas de recomendação sobre a disseminação de conteúdo ilegal". Desde dezembro de 2023, a plataforma de Musk é investigada pela UE, que avalia a legalidade do conteúdo digital produzido na rede.
O bloco chegou a aplicar ao X uma multa de 120 milhões de euros (R$ 754 milhões) por violação da Lei dos Serviços Digitais (DSA), que estabelece regras rígidas de transparência às plataformas digitais.
Segundo a Comissão Europeia, as infrações da empresa de Musk incluem "design enganoso" de seu selo de verificação azul, falta de transparência de seu repositório de publicidade e falta de acesso a dados públicos para pesquisadores.
"A DSA é muito clara na Europa. Todas as plataformas precisam colocar a casa em ordem, porque o que estão gerando aqui é inaceitável, e o cumprimento da legislação da UE não é uma opção. É uma obrigação", disse Regnier.
Mais de 30 legisladores pertencentes ao grupo liberal Renew do Parlamento Europeu pressionam a presidente da Comissão Europeia, Ursula von der Leyen , por ações mais agressivas contra o X.
"Não se enganem, não é apenas uma questão de pessoas famosas, não é apenas uma questão de mulheres. Todas as fotos suas ou de seus filhos postadas no Facebook ou Instagram estão a apenas um clique de se tornarem pornografia no Grok", disse a legisladora da UE Veronika Cifrova.
Reino Unido e Itália também miram a plataforma
Em resposta ao escândalo, vários grupos irlandeses de direitos das mulheres e proteção à criança também anunciaram na quinta-feira que estavam deixando o X.
"A organização tem observado com crescente inquietação e preocupação o aumento dos níveis de ódio, misoginia, racismo e conteúdo anti-LGBTI+ não controlados na plataforma", afirmou a Women's Aid in Ireland.
O sindicato Irish National Teachers' Organisation também pediu ao governo e à UE que tomem "medidas imediatas" para proteger a segurança e o bem-estar de crianças e mulheres.
No Reino Unido, o primeiro-ministro britânico, Keir Starmer, instou o órgão regulador britânico a investigar a ferramenta do X. "É ilegal, nós não vamos tolerar. Eu pedi para todas as opções estarem na mesa", disse Starmer sobre a possibilidade de banimento da rede social.
A autoridade italiana de proteção de dados também alertou os usuários sobre o risco de o Grok gerar conteúdos sem consentimento.
O país trabalha ao lado da Comissão de Proteção de Dados da Irlanda, onde estão sediadas as operações do X na UE, e reservou o direito de tomar outras medidas.
Os serviços que permitem aos usuários "despir" digitalmente pessoas podem constituir infrações criminais e violações graves de privacidade sob a legislação da UE, afirmou o órgão regulador italiano.
gq/le (AFP, Reuters, ots)
A Deutsche Welle é a emissora internacional da Alemanha e produz jornalismo independente em 30 idiomas.
