Reino Unido cobra que X lide urgentemente com "deepfakes" íntimos feitos por Grok
O Reino Unido exigiu nesta terça-feira que a rede social X, controlada pelo bilionário Elon Musk, encerre urgentemente a proliferação de imagens íntimas criadas com a ajuda do chatbot Grok, juntando-se a um clamor europeu contra o aumento de imagens não consensuais exibidas na plataforma.
O chatbot Grok, que atua na rede social, está criando uma enxurrada de imagens não consensuais de mulheres e menores de idade em trajes íntimos a pedido dos usuários da plataforma.
A ministra da Tecnologia do Reino Unido, Liz Kendall, disse em comunicado que o conteúdo é "absolutamente terrível" e exigiu que o X aja rapidamente.
"Ninguém deveria ter que passar pela provação de ver 'deepfakes' íntimos de si mesmo online", disse Kendall. "Não podemos e não permitiremos a proliferação dessas imagens humilhantes e degradantes, que são desproporcionalmente direcionadas a mulheres e meninas...O X precisa lidar com isso urgentemente."
A rede social não comentou o assunto.
A conta de segurança do X disse no domingo que remove todo o conteúdo ilegal da plataforma e suspende permanentemente as contas envolvidas.
"Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se fizesse o upload de conteúdo ilegal", afirmou.
Criar ou compartilhar imagens íntimas não consensuais ou material de abuso sexual infantil, incluindo imagens sexuais geradas por IA, é ilegal na Reino Unido. Além disso, as plataformas de tecnologia devem evitar que os usuários britânicos encontrem conteúdo ilegal e removê-lo assim que tomarem conhecimento dele.
Musk ignorou as preocupações, publicando emojis de risos em resposta a imagens de biquíni editadas de figuras públicas.
A Comissão Europeia disse na segunda-feira que está ciente de que a rede social está oferecendo um "modo picante" e condenou as imagens como ilegais.
Também na segunda-feira, o órgão regulador de mídia da Reino Unido, Ofcom, disse que fez "contato urgente" com o X e seu braço de IA, a xAI, para entender quais medidas estão sendo tomadas para cumprir as obrigações de proteger os usuários do Reino Unido.
Autoridades francesas denunciaram a rede social a promotores e reguladores, chamando o conteúdo de "manifestadamente ilegal". Autoridades indianas também exigiram explicações.