Golpistas fazem deepfake de famosos para aplicar golpes; Mion e Drauzio foram vítimas
O termo deepfake faz referência a qualquer modificação em vídeo, foto ou outras imagens que tenham sido criadas para parecer realista
Criminosos estão usando a inteligência artificial (IA) para aplicar golpes com a criação de deepfakes de famosos. Ou seja, eles divulgam vídeos falsos criados com a imagem e a voz de personalidades como Marcos Mion, Luciano Huck e o médico Drauzio Varella para enganar internautas em golpes diversos.
Uma reportagem veiculada no Fantástico no último domingo (17) mostrou a ação de criminosos usando deepfake com celebridades para tentar vender produtos.
Marcos Mion, por exemplo, foi vítima da "montagem" em um vídeo onde ele estaria falando sobre a cura para o autismo. Na projeção, o apresentador comenta que encontrou uma solução para a doença e estaria usando o método com seu filho.
Já o médico Drauzio Varella, foi vítima de deepfake em um vídeo em que ele explica como "gotinhas milagrosas de colágeno" são benéficas. Mas, tudo não passava de um golpe para enganar seguidores — se aproveitando da credibilidade do médico, — para vender um produto.
Estes não são os primeiros casos de famosos sendo vítimas de deepfake, a cantora Anitta foi uma das primeiras personalidades do Brasil a sofrer com a montagem que usa inteligência artificial.
Um vídeo que circulou na internet e no WhatsApp, que supostamente mostrava a cantora em cenas de sexo com um homem era falso.
Segundo a assessoria da artista ao Gshow, Anitta foi vítima de deepfake. "Não se trata de Anitta, mas sim uma ação criminosa que utiliza de recursos digitais para enganar o público, fazendo uma inserção do rosto de uma pessoa em outra. Neste caso, muito mal feito, por sinal", informou o comunicado compartilahdo em julho de 2022.
O que é deepfake?
O termo deepfake ou deep fake faz referência a qualquer modificação em vídeo, foto ou outras imagens (como GIFs) que tenham sido criadas para parecer realista, mas feita com inteligência artificial. No fim, o objetivo é que a modificação seja tão imperceptível que pareça real.
A palavra deepfake, em inglês, vem da mistura dos termos "deep learning" e "fake". Ou seja, uma imagem falsa criada com um sistema de inteligência artificial usando deep learning.
Fazer vídeos fictícios como que se fossem verdadeiros não é bem uma invenção atual, uma vez que efeitos visuais computadorizados já existem no cinema desde o século passado. A questão é que fazer uma cena em computação gráfica em um filme ou jogo de videogame era extremamente caro.
A novidade do deepfake é que as pessoas podem criar essas manipulações realistas só usando computadores e internet em casa.
Como o deepfake funciona?
Conforme o próprio nome indica, a tecnologia é baseada em deep learning. Essa é uma subclassificação da inteligência artificial para definir algoritmos que podem reconhecer padrões com base em um banco de dados.
No caso das deepfakes, para fazer um vídeo falso, por exemplo, de Mark Zuckerberg, é preciso alimentar o sistema com fotos e vídeos em que o CEO do Facebook aparece. Quanto mais material, melhor tende a ser o resultado.
A inteligência artificial vai reconhecer padrões, como movimentos, trações do rosto, voz e outras questões comportamentais de Zuckerberg. Em suma, aprender como ele se comporta.
Depois que o sistema estiver municiado com banco de dados e analisado o conteúdo, ele já será capaz de replicar movimentos e fala parecidos com a realidade. Nesta etapa, o mecanismo usa uma técnica chamada rede contraditória generativa (GAN, na sigla em inglês).
A técnica consiste em criar várias imagens com os bancos de dados e verificar se estão de acordo com o esperado. Caso o sistema reconheça um erro, ele mesmo já arruma a imperfeição e monta uma nova imagem. O ciclo é repetido inúmeras vezes para refinar a produção
Após várias repetições de criação e verificação, o sistema chega ao vídeo ideal, o mais próximo da realidade possível.
