Deepfakes de políticos para aplicar golpes avançam nas redes; Marçal e Bolsonaro são principais alvos

Jornalismo

06.11.2024 - 08h00

Rio de Janeiro - RJ

Capturas dos vídeos falsos criados com deepfake que circulam nas redes sociais. Da esquerda para a direita, Nikolas Ferreira, Jair Bolsonaro, Pablo Marçal e Tabata Amaral

Entre 1° de setembro e 22 de outubro, a Lupa identificou 30 conteúdos criados com técnicas de inteligência artificial, utilizando vídeos de políticos brasileiros para promover golpes nas redes sociais. Entre as vítimas, Ciro Gomes (PDT), Fernando Haddad (PT), Flávio Bolsonaro (PL-RJ), Geraldo Alckmin (PSB), Jair Bolsonaro (PL), Marina Silva (Rede), Nikolas Ferreira (PL-MG), Pablo Marçal (PRTB), Sérgio Moro (União-PR), Tabata Amaral (PSB-SP) e Tarcísio de Freitas (Republicanos) tiveram imagens manipuladas por deepfake e veiculadas em posts e anúncios no Facebook.

Esses posts recebem milhares de visualizações no Facebook diariamente. Embora não seja possível acessar as estatísticas gerais, apenas os números diários, o levantamento mostrou que no dia 22 de outubro, um post com a imagem de Geraldo Alckmin promovendo um golpe alcançou a marca de 1 milhão de visualizações.

A publicação, criada com deepfake, mostra o vice-presidente afirmando que o Banco Central teria anunciado que seria o último dia para consultar e resgatar valores esquecidos no CPF. O vídeo direcionava o usuário a um site que solicitava dados pessoais. Em um golpe similar, um vídeo manipulado que utilizou a imagem de Pablo Marçal atingiu 1,2 milhão de visualizações no dia 21 do mesmo mês.

Capturas dos vídeos falsos criados com deepfake que circulam nas redes sociais. Da esquerda para a direita, Tarcísio de Freitas, Marina Silva e Sérgio Moro

Em outro exemplo de deepfake, foi forjado um vídeo onde o deputado Nikolas Ferreira (PL-MG) supostamente dizia: “O Banco Central já anunciou que os valores que não forem resgatados a tempo serão devolvidos aos cofres públicos e não poderão mais ser utilizados. Então, aproveite e resgate seu benefício imediatamente. É só você acessar o site que vou deixar aqui embaixo, inserir o seu CPF e seguir o passo a passo da atendente virtual”. Toda a mensagem era falsa e buscava aplicar um golpe.

Marçal e Bolsonaro são os principais alvos

Entre os 30 conteúdos identificados, oito utilizavam imagens de Pablo Marçal, sete de Jair Bolsonaro e quatro de Nikolas Ferreira. Além disso, um vídeo curto do deputado mineiro foi incluído em uma deepfake focada em Marçal. Sérgio Moro, Tabata Amaral e Tarcísio de Freitas apareceram em dois conteúdos falsos cada. Os demais políticos figuraram em uma publicação desinformativa cada um.

Capturas dos vídeos falsos criados com deepfake que circulam nas redes sociais. Da esquerda para a direita, Ciro Gomes, Geraldo Alckmin e Flávio Bolsonaro

As narrativas abordadas nos vídeos são semelhantes e todas envolvem o resgate de supostos valores. Parte dos conteúdos pedem que os usuários verifiquem se há “dinheiro esquecido” no CPF; outros afirmam que houve um enorme vazamento de dados cometido pelo governo e, para recompensar os cidadãos, foi criado um programa de indenização e, além disso, outra parcela dos posts alegam que o Procon intimou bandeiras de cartão de crédito a liberar um “cashback”, isto é, um valor retornado pelo uso do serviço.

Alguns vídeos ainda citam outras instituições, como Supremo Tribunal Federal (STF) e Banco Central, afirmando que essas entidades seriam responsáveis pelo ressarcimento ou liberação do benefício para os cidadãos. Os posts falsos se aproveitam do nome dessas instituições para conferir credibilidade ao golpe, utilizando ainda, elementos gráficos idênticos aos do governo federal ou do Procon nos sites forjados.

Página inicial de um dos sites falsos que se passam pelo governo federal

Como funcionam os golpes

Nos vídeos, as deepfakes fazem com que os políticos incentivem os usuários a clicarem no link que acompanha a postagem. Ao acessar o site, os portais pedem dados pessoais para que seja feita a “consulta” sobre a disponibilidade de valores a serem resgatados. A partir daí, o método adotado pelas plataformas falsas é muito semelhante. Geralmente, é exibido um suposto chat com um representante de alguma das entidades citadas, seja o Procon ou o Banco do Brasil, por exemplo, que irá fazer o “atendimento”.

Dependendo do tipo de golpe, o falso atendente também pede outras informações pessoais além do CPF, como o nome da mãe, estado civil ou até ano de nascimento. Neste momento, é preciso tomar cuidado, pois o compartilhamento de dados pessoais representa um risco. Segundo alerta o Serasa, ao compartilhar dados pessoais em sites inseguros, é possível que quem receba essas informações as comercialize em plataformas de venda de dados ou as utilize para aplicar outras fraudes.

Capturas de tela do site falso que simula o Procon

A imagem acima foi retirada de um site que está sendo compartilhado em uma deepfake que utilizou a imagem de Jair Bolsonaro. A Lupa identificou o mesmo conteúdo em três postagens diferentes. No dia 21 de outubro, cada uma dessas três postagens acumulou 105 mil, 93 mil e 50 mil visualizações, totalizando quase 250 mil visualizações em um único dia.

Apelo para a urgência

As publicações falsas criam uma “sensação de urgência” para convencer os usuários a acessar os sites de golpe no mesmo momento em que se deparam com o post para que não se perca a oportunidade. Em uma publicação que manipulou um vídeo de Nikolas Ferreira, o parlamentar alega que hoje – sem mencionar a data específica – seria o último dia para resgatar valores esquecidos no CPF.

“Pessoal, o Banco Central anunciou que hoje é o último dia para realizar o resgate dos valores esquecidos em seu CPF e os valores que não forem resgatados a tempo serão devolvidos aos cofres públicos e não poderão ser mais utilizados. Então, aproveite e resgate seu benefício imediatamente. É só acessar o site que vou deixar aqui em baixo, inserir seu CPF e seguir o passo a passo da atendente virtual”, diz o áudio do vídeo falso que simula a voz de Nikolas Ferreira.

A tática de apresentar a situação como a “última oportunidade” para conseguir fazer o resgate de um valor é comum entre esse tipo de golpe. A Lupa identificou pelo menos duas publicações com esse mesmo vídeo falso que usa a imagem de Nikolas Ferreira, acumulando, respectivamente, 417 mil e 387 mil no dia 21 de outubro.

Tarifa para saque

As plataformas fraudulentas não apenas solicitam dados pessoais, mas também afirmam que, para prosseguir com a transferência de valores obtidos por meio de cashback, indenização ou saldo acumulado no CPF, é necessário pagar uma tarifa transacional para garantir o recebimento do dinheiro. Essa é mais uma estratégia para pedir mais dados pessoais e, ainda, conseguir extorquir valores das vítimas.

O site falso redireciona o usuário para uma página de pagamentos. O portal faz uso do nome e do logotipo do Banco Central

Para realizar o pagamento do que os sites falsos chamam de “taxa transacional”, é preciso inserir outras informações pessoais, como e-mail, telefone e nome completo. Posteriormente, para fazer o pagamento, é fornecido um código Pix. No caso do golpe mencionado acima, o valor da tarifa era de R$47,89, enquanto outra fraude analisada pela Lupa no início de setembro deste ano – que utilizava um vídeo manipulado de Marçal – a taxa cobrada pela falsa transferência era de R$ 61,91.

Na tela de pagamentos, é possível observar a presença de comentários sobre o processo de transação. Essas resenhas forjadas que avaliam positivamente o site, alegam que o portal é seguro e que após fazer o pagamento da taxa, o valor prometido é pago. Essa é outra tática para tentar agregar confiança ao golpe.

Comentários falsos exibidos no site do golpe

Por outro lado, os comentários feitos nas publicações que estão no Facebook, acerca dos vídeos que promovem o golpe, não retratam o mesmo cenário positivo. Usuários afirmam que realizaram o pagamento da taxa transacional, mas não receberam o valor prometido.

Comentários feitos por vítimas dos golpes no Facebook

De acordo com a análise feita pela Lupa, a maior parte dos sites que aplicam esses golpes não estão hospedados no Brasil. Por exemplo, um dos links que acompanham um dos vídeos que usam a imagem de Jair Bolsonaro foi criado na Islândia. Outro conteúdo falso que também manipulou uma gravação do ex-presidente, possui o portal hospedado nos Estados Unidos. Além desses, foram identificados outros sites que estão hospedados em São Cristóvão e Nevis, um país no Caribe.

Segundo a advogada Danielle Campello, do escritório Di Blasi, Parente e Associados, especialista em Compliance, Direito Digital e Proteção de Dados Pessoais, os conteúdos analisados vitimam, simultaneamente, duas partes: a pessoa que fornece os dados e faz o pagamento esperando o retorno, mas também o político que teve sua imagem utilizada indevidamente. “Há um duplo prejuízo. Todas as partes envolvidas ali que caíram naquele golpe, seja pelo golpe financeiro ou o golpe que atingiu diretamente a imagem daquela pessoa ali, né? Há um duplo ali prejuízo e os efeitos às vezes são irreversíveis”, analisou Campello em entrevista à Lupa.

A advogada observa que, embora seja difícil recuperar o dinheiro perdido, é possível entrar em contato com o banco onde a transação foi realizada para verificar as opções disponíveis. “Devo avisar o meu banco que eu caí naquele golpe para o banco já ficar alerta. Vou realizar um boletim de ocorrência, informar a delegacia de crimes cibernéticos que há criminosos ali realizando esse tipo de crime e é interessante notificar na rede social”, orienta.

Ela ressalta que é necessário manifestar publicamente que a pessoa caiu em um golpe para alertar outros usuários da mesma rede sobre o perigo da publicação falsa. “Vale disseminar a informação verdadeira para a gente mitigar aquele potencial efeito cascata que existe no ambiente virtual e a gente sabe que é um efeito muito rápido. São as câmaras de eco que correm informações de forma muito rápida. Então a gente tem que correr ali, publicar e informar para que não caiam nesse golpe”, concluiu a especialista.

Dificuldade no rastreamento dos golpistas

Para Campello, a aplicação desse tipo de golpe pode se enquadrar no crime de estelionato previsto no artigo 171 do Código Penal, que se define por causar prejuízo a alguém, enganá-lo ou levá-lo ao erro. A pena pode variar de quatro a oito anos. No entanto, como destaca a especialista, um dos desafios é localizar as pessoas que estão por trás desse tipo de prática.

“A dificuldade é fazer o rastreamento do criminoso cibernético. Como encontrar, né? Porque a gente sabe que o crime está relacionado a pessoa que o cometeu e a penalização tem que ser aplicada diretamente àquele indivíduo que cometeu o crime. Como rastrear? Essa é a grande dificuldade do ambiente virtual, você identificar quem é o cibercriminoso ali. Então, são os desafios da era digital”, aponta a advogada.

Em sua avaliação, as tecnologias trazem benefícios à sociedade e, por isso, o combate a essas problemáticas problemáticas que envolvem os golpes não é proibir o uso das ferramentas de inteligência artificial, mas instaurar regras e regulamentos mais eficazes nas redes sociais, além de um apoio coletivo, envolvendo a sociedade, as plataformas e as autoridades judiciais. Ela destaca ainda a necessidade de um olhar atento por parte dos provedores, da sociedade no que diz respeito à educação midiática.

“Eu acredito que esse processo de evolução cultural dentro da era digital, ele é é um complexo de medidas que todos nós devemos agir de forma proativa. E aí a gente tá falando de governo, a gente tá falando de big techs e provedores também. É um desafio que precisa de várias mãos”, disse a especialista em novas tecnologias.

Como exemplo de boa medida adotada para regulamentar o uso da inteligência artificial, a advogada levantou a resolução 23.732, de 27 de fevereiro de 2024, do Tribunal Superior Eleitoral (TSE) que, para as eleições deste ano, permitiu o uso de inteligência artificial nas propagandas eleitorais, no entanto, destacou que essa utilização deveria ser mencionada no conteúdo para que houvesse transparência para com o eleitor sobre o uso da tecnologia.

“A utilização na propaganda eleitoral, em qualquer modalidade, de conteúdo sintético multimídia gerado por meio de inteligência artificial para criar, substituir, omitir, mesclar ou alterar a velocidade ou sobrepor imagens ou sons impõe ao responsável pela propaganda o dever de informar, de modo explícito, destacado e acessível que o conteúdo foi fabricado ou manipulado e a tecnologia utilizada”, pontua o artigo de número 9 da resolução do TSE.

O que dizem as instituições

O Banco Central publicou um comunicado alertando sobre a existência de golpes que usam o nome da entidade, prometendo valores, mas exigindo o pagamento de uma taxa para que a transferência seja feita. O BC afirmou que o serviço de consulta sobre valores a serem resgatados no CPF é oferecido de forma gratuita no site oficial e se chama “Valores a Receber” e não possui nenhum prazo para ser finalizado.

“O único site onde você pode consultar e saber como solicitar a devolução dos seus valores, da sua empresa ou de pessoas falecidas é o https://valoresareceber.bcb.gov.br. Todos os serviços do Valores a Receber são totalmente gratuitos. Não faça qualquer tipo de pagamento para ter acesso aos valores”, afirmou o Banco Central no site.

O BC destacou ainda, na nota, que ela não envia links e nem entra em contato diretamente para tratar sobre valores a receber ou para confirmar dados pessoais. Além disso, sobre o golpe do suposto cashback promovido por bandeiras de cartão, o Banco Central afirmou: “não existe a opção de receber algum valor pelo uso de cartões de crédito. Não há lei ou norma do BC sobre recall de cartões de crédito”.

O Banco Central ainda divulgou um vídeo informativo sobre o golpe do cashback fornecido por operadoras de cartão de crédito:

O Procon de São Paulo também emitiu um comunicado sobre golpes que utilizam o nome da instituição. Mais especificamente, o órgão alertou sobre uma deepfake criada com a imagem do governador de São Paulo, Tarcísio de Freitas. No conteúdo falso, Tarcísio afirmava que o Procon teria intimado bandeiras de cartão de crédito a devolver valores para os clientes.

“O Governo de São Paulo alerta para golpe utilizando imagem e voz produzidas com inteligência artificial (IA). Em vídeo que circula na internet, os golpistas recriam a voz do governador Tarcísio de Freitas e reproduzem um texto falso que diz que o Procon de São Paulo determinou uma multa a todas as bandeiras de cartões de crédito, obrigando-as a devolver um valor em dinheiro aos consumidores que fizeram compras com seus cartões – um suposto cashback”, disse o Procon.

“O Procon-SP e outros órgãos do Governo de SP não promovem campanhas de cashback de compras de cartão de crédito e recomendam que qualquer mensagem recebida sobre este tema seja denunciada imediatamente para a polícia. É fundamental que a população verifique a autenticidade das informações antes de fornecer qualquer dado pessoal”, afirmou no comunicado.

Ademais, conforme mostrou o levantamento feito pela Lupa, ainda existe uma terceira abordagem para além do cashback do cartão de crédito e dos valores acumulados no CPF: a indenização pelo vazamento de dados. A temática é alarmista, faz com que o usuário se sinta afetado e busque pelo benefício. Nota-se que, como reflexo disso, esse é um assunto muito buscado no Google. De acordo com o Google Trends, a pesquisa por “vazamento de dados indenização” cresceu exponencialmente neste ano.

A Lupa procurou por reportagens ou decisões que mencionem as entidades citadas e se relacionem com o suposto vazamento de dados, no entanto, não foi possível encontrar nenhum comunicado que confirme o que levantam as narrativas golpistas, pelo contrário, sites de credibilidade e do governo federal publicaram recentemente matérias sobre golpes que se utilizam da história do “vazamento de dados” para obter informações pessoais.

Pesquisando pelo Google e filtrando por notícias que abordem o tema, as sugestões mais relevantes envolvem, por exemplo, um comunicado publicado pela Secretaria de Comunicação Social da Presidência da República sobre ser falsa uma indenização prometida pela página "Caso Auxílio Brasil".

O que fazer ao cair nesse tipo de golpe

Caso tenha sido vítima de um golpe que pede dados pessoais e valores via Pix, existem medidas a serem tomadas que podem minimizar os danos. Por isso, é importante manter a calma e alertar as autoridades sobre o ocorrido, pois, dessa forma, pode ser possível reaver o dinheiro perdido.

Confira abaixo alguns passos importantes para serem tomados nessa situação:

Conforme determina o Banco Central, o banco da vítima deve registrar a notificação de infração e acionar o Mecanismo Especial de Devolução (MED). Esse recurso, exclusivo do Pix, permite que o banco do golpista avalie a situação, e as duas instituições têm até sete dias para confirmar a ocorrência de fraude. Se comprovada, o banco do golpista deve reembolsar a vítima em até 96 horas após a avaliação. O MED é aplicável apenas em casos de fraude, não sendo válido para desacordos comerciais ou erros de digitação. A solicitação deve ser feita em até 80 dias após a suspeita de golpe.

A Lupa em parceria com o Instituto de Defesa do Consumidor (Idec) também disponibiliza a plataforma “Será que é Golpe?” que reúne conteúdos sobre diferentes tipos de golpe e orientações para ajudar na prevenção contra golpes e no que fazer caso já tenha sido lesado. Na plataforma, os usuários podem verificar informações sobre golpes relacionados a mensagens recebidas por WhatsApp, SMS e e-mail, identificando as principais características das fraudes. A página oferece ainda um mecanismo de busca direta, facilitando o acesso a orientações. O projeto conta com o apoio da Consumers International (CI), uma rede global de defesa dos direitos do consumidor.

Saiba mais aqui: https://lupa.uol.com.br/sera-que-e-golpe

Outro lado

A Lupa contatou a Meta para pedir esclarecimentos sobre a existência de publicações que divulgam golpes utilizando deepfake. Em nota encaminhada, a empresa afirmou: “Atividades que tenham como objetivo enganar, fraudar ou explorar terceiros não são permitidas em nossas plataformas e estamos sempre aprimorando a nossa tecnologia para combater atividades suspeitas. Também recomendamos que as pessoas denunciem quaisquer conteúdos que acreditem ir contra os Padrões da Comunidade do Facebook, das Diretrizes da Comunidade do Instagram e os Padrões de Publicidade da Meta através dos próprios aplicativos”.

Além disso, a Lupa também contatou todos os políticos que tiveram suas imagens utilizadas indevidamente por deepfake para promover golpes. A assessoria do vice-presidente Geraldo Alckmin informou, em nota, que “a Secretaria de Comunicação da Presidência da República acionou a Polícia Federal, a Advocacia Geral da União e as plataformas digitais sobre a ação criminosa”. A equipe destacou ainda que Alckmin compartilhou, em suas redes sociais, um vídeo alertando a população que se tratava de um conteúdo falso, nunca gravado por ele.

Para saber mais sobre outros tipos de golpes, visite "Será que é Golpe?”. A plataforma reúne mais de 200 conteúdos verificados sobre diversos golpes digitais, além de fornecer orientações sobre o que fazer caso você já tenha sido vítima de um golpe.

Recebeu algo e desconfia que seja golpe? Clique aqui e envie para a Lupa checar.

Editado por

Evelin Mendes e Ana d'Angelo

Clique aqui para ver como a Lupa faz suas checagens e acessar a política de transparência

A Lupa faz parte do

A Agência Lupa é membro verificado da International Fact-checking Network (IFCN). Cumpre os cinco princípios éticos estabelecidos pela rede de checadores e passa por auditorias independentes todos os anos.

A Lupa está infringindo esse código? FALE COM A IFCN

Tipo de Conteúdo: Reportagem

Conteúdo investigativo que aborda temas diversos relacionados a desinformação com o objetivo de manter os leitores informados.

Erramos? Informe à nossa redação

Jornalismo

Marçal e Bolsonaro são os principais alvos

Como funcionam os golpes

Apelo para a urgência

Tarifa para saque

Dificuldade no rastreamento dos golpistas

O que dizem as instituições

O que fazer ao cair nesse tipo de golpe

Outro lado

Leia também

Sobre a lupa

Fale com a gente

Programa de membros

Assine nossa newsletter

sobre desinformação

Acompanhe nossas redes