Especialistas alertam para a necessidade de limitar a exposição de fotos pessoais e reforçar a privacidade online como proteção contra a criação de imagens sexualizadas falsas por IAs como o Grok, destacando também a importância de regulamentação específica.
A ferramenta de IA Grok, do X, antigo Twitter, tem sido alvo de críticas e provocado medo entre usuários, já que ela tem sido usada para criar imagens falsas de pessoas reais nuas, de biquíni, e de forma sexualizada. Mulheres, crianças e figuras públicas — homens e mulheres — têm sido alvo das edições de fotos. Mas há como se proteger desse tipo de ataque?
Receba as principais notícias direto no WhatsApp! Inscreva-se no canal do Terra
Apesar do repúdio de autoridades e indignação entre os usuários, o Grok não confirmou quais medidas concretas está tomando para evitar novos casos de sexualização de fotos. Na sexta-feira, 9, o X anunciou que só os assinantes de seu serviço pago passariam a ter acesso ao Grok.
Ao Terra, o X informou que tomou medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais, conforme necessário. Leia a nota na íntegra abaixo.
A advogada Camila Giacomazzi Camargo, especialista em proteção de dados e Direito Digital da Andersen Ballão Advocacia, afirma que para se proteger de um ataque desse tipo, alguns passos podem ajudar a reduzir os riscos, como:
- Limitar a exposição pública de fotos pessoais;
- Utilizar configurações de privacidade nas redes sociais;
- Evitar o compartilhamento indiscriminado de imagens em plataformas abertas;
- Acompanhar eventuais usos indevidos da própria imagem.
“O problema central não é a inteligência artificial em si, mas a geração de conteúdo ilegal, como imagens sexualizadas sem consentimento”, diz Camargo. “Do ponto de vista individual, a capacidade de prevenção é limitada, já que a pessoa não tem controle sobre o uso indevido de sua imagem por terceiros”, explica.
Identificação
A rápida identificação do problema é crucial e facilita a adoção de medidas para conter a disseminação do conteúdo.
Caso a pessoa seja vítima de imagens falsas sexualizadas, é importante reunir provas e registros, para poder fazer uma denúncia formal. Além disso, a advogada recomenda buscar orientação jurídica.
Ela ainda explica que as autoridades devem reprimir esse tipo de caso. “O ordenamento jurídico brasileiro já prevê responsabilização para crimes como divulgação de nudez sem consentimento e pornografia infantil”, diz.
Direitos na internet
No caso de serviços digitais que possam ser acessados por crianças e adolescentes, o Estatudo da Criança e do Adolescente (ECA) Digital impõe deveres claros de prevenção, monitoramento e mitigação de riscos, conforme a advogada. “Ainda assim, falta uma regulação específica para inteligência artificial, que trate diretamente das obrigações das plataformas nesse contexto”.
Para Camila, o bloqueio do Grok no Brasil não resolveria o problema. Isso porque a sexualização na internet é um problem estrutural.
A discussão central deve ser sobre a responsabilidade das plataformas e a adoção de mecanismos eficazes para impedir a geração e a disseminação de conteúdo ilegal. “Com o novo entendimento do STF sobre o artigo 19 do Marco Civil da Internet, a omissão ou falha sistêmica tende a ampliar a responsabilização das empresas”.
Mais segurança
A situação é preocupante porque revela a ausência de parâmetros mínimos de segurança para evitar abusos graves, como a criação de imagens sexualizadas sem consentimento. “Quando não há mecanismos adequados de prevenção, a falha deixa de ser pontual e passa a ser estrutural, o que pode agravar a responsabilidade jurídica da plataforma”, comenta.
Camila Camargo ainda diz que esse não é um problema restrito ao Grok, e que outras IAs generativas operam hoje sem uma regulação específica no Brasil. “Embora existam normas aplicáveis a determinados crimes e deveres claros quando há impacto sobre crianças e adolescentes, a regulamentação da inteligência artificial ainda está em construção”.
A regulamentação das IAs no Brasil é debatida no Congresso Nacional por meio do Projeto de Lei nº 2.338/2023, que trata do marco legal da IA, mas a proposta ainda não foi concluída.
O que diz o X
"Tomamos medidas contra conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais, conforme necessário.
Qualquer pessoa que utilize o Grok ou que o incentive a criar conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal.
Para obter mais informações sobre nossas políticas, consulte nossas páginas de ajuda para ver nossas Regras X completas e a gama de opções de aplicação", diz a plataforma em um comunicado.
Em resposta a um usuário do X, o bilionário Elon Musk, dono da rede social, afirmou: "Qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal."
