O chatbot Grok, do bilionário Elon Musk, está testando a capacidade da Europa de reprimir deepfakes e a manipulação digital de imagens online, mesmo depois de os reguladores terem conquistado uma rara vitória ao obrigar a inteligência artificial a restringir a criação de imagens sexualizadas.
A xAI, empresa que controla o chatbot, anunciou na noite de quarta-feira que restringiu a edição de imagens para usuários do Grok AI depois que ele gerou milhares de imagens sexualizadas de mulheres e menores, o que alarmou órgãos reguladores globais.
Trabalhador sofreu ataque cardíaco, foi internado na UTI e demitido: três juízes emitiram três pareceres diferentes
Diretor de IA da Meta decreta o que a Geração Z deveria estar fazendo "o tempo todo": vibe coding
Parece miragem, mas é real: cientistas conseguem extrair milhares de litros de água no deserto do Saara usando um método invisível
O recuo de Musk, que inicialmente desdenhou do caso, destaca a dificuldade de fiscalizar ferramentas de IA que tornam a criação de conteúdo explícito barata e fácil. Este é o mais recente conflito entre a Europa e Musk, após desentendimentos sobre interferência eleitoral, moderação de conteúdo e liberdade de expressão.
Muitos órgãos reguladores ainda estão se esforçando para desenvolver leis e regras que governem a IA, com dúvidas sobre o que constitui nudez, como definir consentimento e quem é o responsável -- o usuário ou a plataforma.
"É realmente uma zona cinzenta no que diz respeito à criação de imagens de nudez", disse à Reuters Ängla Pändel, advogada de proteção de dados e privacidade do escritório Mannheimer Swartling, em Estocolmo.
A Ofcom, reguladora britânica e uma das mais atuantes no assunto, saudou a iniciativa de Musk, mas afirmou que sua investigação sobre a xAI em relação às imagens do Grok continuará.
"Nossa investigação formal continua em andamento", disse um porta-voz. "Estamos trabalhando incansavelmente para avançar com o caso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir a situação."
AUTORIDADES DEFENDEM REFORÇO DA FISCALIZAÇÃO
No início deste mês, o Grok criou imagens hiper-realistas de mulheres sob efeito de ecstasy, manipuladas para parecerem estar usando biquínis minúsculos, em poses degradantes ou até mesmo cobertas de hematomas. Algumas menores de idade foram digitalmente despidas, ficando apenas de roupa de banho.
Até quarta-feira, a Reuters constatou que o chatbot ainda produzia imagens sexualizadas de forma privada e sob demanda. Aparentemente, essa prática foi controlada, pelo menos em algumas regiões, nesta quinta-feira.
A xAI de Musk afirmou estar bloqueando a geração de imagens de pessoas com roupas sumárias em "jurisdições onde isso é ilegal". A empresa não especificou quais são essas jurisdições.
Na Malásia e na Indonésia, o governo impôs proibições temporárias ao Grok, enquanto os reguladores da UE e do Reino Unido consideraram as imagens ilegais. O Reino Unido, a França e a Itália iniciaram investigações, mas enfrentaram pedidos por medidas mais rigorosas.
"É necessário um reforço na aplicação da Lei de Serviços Digitais para impedir que aplicativos e plataformas sexualizem ou exponham mulheres e crianças à nudez", afirmou a eurodeputada democrata-cristã Nina Carberry, que considerou a medida mais recente um "passo positivo".
Um porta-voz da Comissão Europeia afirmou que, caso as alterações implementadas no Grok não sejam eficazes, a Comissão continuará a utilizar todas as ferramentas de fiscalização da Lei de Segurança Digital da UE contra a plataforma.
ÁREA JURÍDICA CINZENTA
A Lei de Segurança Online do Reino Unido considera o compartilhamento de imagens íntimas sem consentimento, incluindo deepfakes gerados por IA, uma "infração prioritária", afirmou Alexander Brown, advogado de proteção de dados do escritório Simmons & Simmons, no Reino Unido.
"Isso significa que o X deve tomar medidas proativas e proporcionais para impedir que esse tipo de conteúdo apareça em sua plataforma e removê-lo rapidamente quando detectado", disse.
O órgão regulador britânico pode multar uma empresa em até 10% da receita nos casos mais graves de descumprimento das normas ou solicitar a um tribunal que obrigue os provedores de serviços de internet a bloquear o site.
Para os indivíduos, levar plataformas aos tribunais é "um processo realmente difícil e pesado", disse Anders Bergsten, advogado da Mannheimer Swartling, citando o impacto emocional sobre as vítimas.
As deepfakes existem há anos, muito antes do surgimento dos aplicativos de IA, embora estivessem em grande parte confinados aos cantos mais obscuros da web. O poder de publicação do X dá ao Grok um alcance sem precedentes.
"A facilidade de publicação permite que as deepfakes se espalhem em larga escala", disse a advogada Carrie Goldberg, dos EUA, que trabalha com vítimas de assédio cibernético.
No Reino Unido e na Suécia, as leis tornam ilegal o compartilhamento não consensual de imagens de nudez. O Reino Unido está ampliando a lei para incluir a produção dessas imagens.
Segundo a Lei de Segurança de Dados, a suspensão de um serviço é considerada o último recurso. A Lei de Inteligência Artificial da UE também não prevê nada em relação a imagens de nudez de adultos, apenas obrigações de transparência para deepfakes, afirmaram especialistas.
O primeiro-ministro britânico, Keir Starmer, saudou a iniciativa do X nesta quinta-feira, mas alertou: "Liberdade de expressão não é a liberdade de violar o consentimento. As imagens de mulheres jovens não são propriedade pública e a sua segurança não está em discussão".
"Se precisarmos fortalecer ainda mais as leis existentes, estamos preparados para fazê-lo."
