A investigação buscará determinar se o Grok está difundindo conteúdos ilegais, como imagens sexualizadas manipuladas, dentro da União Europeia (UE), em violação à legislação do bloco sobre serviços digitais (DSA), informou a Comissão em comunicado.
O órgão europeu também vai examinar se a plataforma X protege adequadamente seus usuários ao avaliar e mitigar de forma correta os riscos associados às funcionalidades do Grok.
O chatbot Grok e a rede social X estão sob forte crítica após a publicação, na própria plataforma, de imagens explícitas geradas a pedido de usuários, algumas delas representando menores de idade.
"Os deepfakes sexuais não consensuais que envolvem mulheres e crianças constituem uma forma violenta e inaceitável de degradação", afirmou Henna Virkkunen, comissária europeia responsável pela área de tecnologia, em comunicado.
A xAI, empresa de inteligência artificial controlada por Elon Musk, declarou em meados de janeiro ter implementado mudanças para impedir que o Grok "autorize a modificação de imagens de pessoas reais que usem roupas consideradas reveladoras, como biquínis".
A empresa também afirmou que passou a impedir usuários, de acordo com sua localização geográfica, de gerar imagens de pessoas vestidas de maneira provocante em "jurisdições onde isso é ilegal". No entanto, a xAI não especificou quais são essas jurisdições.
Embora as alterações promovidas pela empresa tenham sido bem recebidas, elas não resolvem todos os problemas nem os riscos sistêmicos envolvidos, declarou nesta segunda-feira um alto funcionário do Executivo europeu a jornalistas.
Segundo esse responsável, a Comissão considera que o X não realizou uma avaliação específica quando implementou as funcionalidades do Grok na Europa.
Risco de multa
"Por meio desta investigação, vamos determinar se o X cumpriu suas obrigações legais previstas na DSA ou se tratou os direitos dos cidadãos europeus, inclusive mulheres e crianças, como danos colaterais de seu serviço", declarou Henna Virkkunen.
De acordo com a legislação europeia sobre serviços digitais, empresas podem ser multadas em até 6% de seu faturamento anual global em caso de violação das regras.
A plataforma X não respondeu imediatamente a um pedido de comentários enviado por e-mail nesta segunda-feira.
A investigação europeia ocorre duas semanas depois de a autoridade britânica de regulação de mídia, a Ofcom, ter iniciado sua própria apuração, após preocupações relacionadas à criação, pelo Grok, de imagens de caráter sexual.
Filipinas e Malásia, que haviam bloqueado temporariamente o Grok, restabeleceram o acesso ao chatbot depois que a xAI afirmou ter implementado medidas adicionais de segurança. A Indonésia também bloqueou a plataforma.
A investigação aberta pela Comissão Europeia pode contrariar o governo do presidente norte-americano, Donald Trump, já que a repressão da União Europeia contra grandes empresas de tecnologia tem provocado críticas e até ameaças de novas tarifas comerciais por parte dos Estados Unidos.
A Comissão Europeia também anunciou nesta segunda-feira a prorrogação de uma investigação aberta em dezembro de 2023 contra o X para avaliar se a empresa analisou e mitigou de forma adequada todos os riscos sistêmicos associados aos seus sistemas de recomendação, incluindo o impacto da recente migração anunciada para um sistema baseado no Grok.
Em comunicado, o Executivo europeu afirmou que a rede social X, multada em dezembro em € 150 milhões por descumprir obrigações de transparência previstas na DSA, pode ser alvo de medidas provisórias caso não promova ajustes significativos em seu serviço.
Com AFP
