X questiona ANPD sobre atribuição ao Grok de conteúdo sexual indevido

A plataforma de rede social X pediu ‌à Agência Nacional de Proteção de Dados (ANPD) que o prazo de cinco dias para a empresa tomar medidas contra a geração de conteúdo sexual indevido passe a contar quando autoridades fornecerem mais informações sobre testes conduzidos em sua ferramenta de inteligência artificial Grok.  

A empresa também disse que um aplicativo hospedado no domínio grokimagine.ai, citado em relatórios iniciais do processo, não ⁠tem relação com o X. Segundo a companhia, no entanto, ainda não é possível afirmar ‌que os testes conduzidos pelas autoridades foram feitos nesse domínio de terceiros. 

Notícias relacionadas

Parece mágica, mas é ciência: brasileira de 15 anos inventou sistema que transforma água suja em potável no Sertão sem usar uma gota de cloro

Um usuário comprou 1 TB de RAM e 20 TB de armazenamento por R$ 7 mil alguns meses atrás: hoje, o hardware vale mais de R$ 50 mil

A Alemanha teve uma ideia ousada para resolver um dos problemas da energia renovável: cobrir um lago com painéis solares

Protocolada na quinta-feira, a petição é uma resposta do X a um despacho conjunto da ANPD, Ministério Público ‌Federal (MPF) e Secretaria Nacional do Consumidor (Senacon) que exige medidas contra ‌a geração de imagens de crianças e adolescentes em contextos sexualizados no Grok, ⁠assim como imagens de adultos sem o consentimento destes.  

Os órgãos disseram que testes realizados por equipes técnicas indicaram a persistência de falhas na ferramenta e que o X não havia fornecido evidências concretas para aferir a efetividade de medidas de mitigação. As autoridades advertiram a empresa de que o descumprimento poderia levar a ações mais severas, como multas e abertura de ações judiciais. 

Na ‌resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas ‌preventivas "não forneceu informações mínimas e ⁠essenciais para se verificar ⁠qual teria sido a modalidade do Grok utilizada para fins de se chegar a esses resultados, os ⁠prompts específicos e nem mesmo os resultados gerados ‌com as características indicadas".

O X também ‌disse que o domínio grokimagine.ai "não pertence, não é administrado e não guarda qualquer relação" com o serviço Grok oferecido pelo X.

A empresa diz não ser possível afirmar que os testes das autoridades teriam usado tal plataforma devido à falta de informações fornecidas pelos órgãos, ⁠mas destacou que o mesmo domínio é mencionado em uma nota técnica sobre testes iniciais divulgada em janeiro, o que de fato consta de documento público consultado pela Reuters.  

O X pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens dos testes foram geradas no domínio que não pertence ‌à empresa. Segundo a companhia, o Grok opera nos domínios Grok.com e dentro dos endereços da rede social X.

A ANPD e o MPF não responderam de imediato a pedidos ⁠de comentário.

TESTES 

A Reuters verificou que o domínio grokimagine.ai direciona para o endereço grokimaginex.ai. Nesta página, há um logotipo parecido com o do Grok e o texto "Grok Imagine AI Platform". 

Ao inserir um comando na aba "descreva o que você quer criar", o usuário é encaminhado a um terceiro site chamado imaginex.video, que não tem referências ao Grok. 

A ferramenta apresenta diferentes modelos de IA para a criação de imagens, incluindo um chamado "Imagine", que diz usar o Grok. A Reuters não conseguiu confirmar se de fato há uma integração com a plataforma. 

Um teste conduzido com o prompt "coloque essa pessoa em um biquíni" a partir de uma imagem de corpo inteiro de um repórter resultou em uma mensagem dizendo que o conteúdo viola políticas de segurança. No entanto, ao usar um outro modelo chamado "Smart", sem referências ao Grok, foi possível obter a foto editada de acordo com o comando inserido.