UOL - O melhor conteúdo
Lupa
De Anitta à Iza: criminosos usam fóruns para ensinar como criar pornô fakes gerados por IA
04.03.2024 - 12h02
João Pessoa - PB
 "𝗥𝗘𝗔𝗟𝗜𝗭𝗘 seus desejos mais safados, 𝗣𝗔𝗥𝗘 𝗗𝗘 𝗜𝗠𝗔𝗚𝗜𝗡𝗔𝗥 e 𝗩𝗘𝗝𝗔 𝗤𝗨𝗔𝗟𝗤𝗨𝗘𝗥 𝗣𝗘𝗦𝗦𝗢𝗔 𝗘𝗠 𝗨𝗠 𝗩𝗜𝗗𝗘𝗢 𝗣𝗢𝗥𝗡𝗢!".
Mensagens assim estão sendo disseminadas em fóruns na internet para produzir, sem consentimento, os falsos nudes, ou “deepnudes” — uma variação do termo “deepfakes”, usado para designar imagens ou vídeos que manipulam a voz, o corpo ou o rosto das pessoas de maneira realista usando inteligência artificial —  retratando mulheres em cenas íntimas. Muitos desses serviços oferecem a possibilidade de produzir um vídeo pornô fake com uso de Inteligência Artificial (IA). Basta somente enviar a foto de qualquer pessoa — "da crush, da amiga, da prima ou da vizinha". 
Além da produção de fakes, esses fóruns encontrados facilmente em buscadores do Google disseminam fakes nudes de famosas, a exemplo das cantoras Anitta e Iza. Pior: propagam de forma criminosa fotos geradas por IA de adolescentes sem qualquer tipo de vestimenta. 
Vale lembrar que, em novembro do ano passado, ao menos 10 adolescentes de Belo Horizonte (MG) tiveram suas imagens expostas sem autorização em fakes nudes criados com uso de IA e disseminados em aplicativos de mensagens. Casos semelhantes ocorreram no Rio de Janeiro (RJ) e no Recife (PE).
Os fóruns também compartilham links de chatbots do Telegram que produzem em segundos imagens pornô fakes. Num dos grupos aos quais a Lupa teve acesso, o usuário é incentivado a "parar de imaginar" e, finalmente, realizar o desejo de ver qualquer pessoa nua. "Transforme Qualquer Foto em Nudes ou Vídeo Pornô de Alta Qualidade!", diz a conta que garante que o vídeo pornográfico será criado em total sigilo e "somente você" terá acesso. Para 'realizar' esse 'sonho', basta pagar um valor de R$ 50 por minuto de vídeo.”
Em nenhum momento o chat alerta que é proibido usar fotos de crianças e adolescentes ou imagens sem consentimento. 
Robô do Telegram usado para criação de fakes nudes
A professora Maynara Costa, do Programa de Pós-Graduação em Sociologia da Universidade Federal do Maranhão (UFMA), alerta que o uso desse tipo de tecnologia para esse fim é mais uma forma inovativa de brutalizar e violentar os corpos femininos. "Sobretudo quando a gente vai ver que o aplicativo vai utilizar interfaces de corpos femininos em vez de corpos masculinos. Não há, inclusive, um banco de dados de corpos  masculinos para fazer a manipulação dessas imagens. Temos uma sociedade machista, que condena as mulheres a uma violência física, social, virtual, psicológica e moral, tanto aqui na esfera física como também na esfera virtual", explica a professora.
A gente vai ver que as mesmas violências [...] vão ser reforçadas no ambiente virtual, tanto a violência contra a adolescente, contra a mulher. A gente vai ver que existe uma disponibilização maior porque aqui fora também existe esse consumo maior da violência contra a mulher
– Maynara Costa, professora da UFMA

Fakes criminosas de adolescentes e famosas

Não há qualquer tipo de moderação nos fóruns aos quais a Lupa teve acesso. Num deles, inclusive, as publicações são abertas — não é preciso criar uma conta para ver as imagens com nudes falsos. Os usuários se comunicam, não só compartilhando as táticas de manipulação de fotografias, mas também ajudando outros usuários a criarem fakes nudes em troca de pagamento via PIX. Alguns deles enviam links com fotos de adolescentes solicitando que alguém os ajude nessa edição. "Consegui fazer dessas aqui, se eu conseguir fazer das outras duas fotos que sobraram eu posto aqui", diz um dos usuários. Uma das publicações de um dos fóruns acessados, com o título "Nudes Fakes", tem 1 mil postagens com 795.024 visualizações desde que foi criado. 
Dados da ONG Safernet mostram que, em 2023, houve um total de 71.867 novas denúncias de imagens de abuso e exploração sexual infantil online. O número representa  o recorde absoluto de denúncias novas (não repetidas) desse tipo de crime que a ONG recebeu ao longo de 18 anos de funcionamento da Central Nacional de Denúncias de Crimes Cibernéticos. Segundo a Safernet, um dos fatores que contribuiu para esses números foi a introdução da IA para a criação desse tipo de conteúdo.
A diretora da Safernet, Juliana Cunha, explica que esse fenômeno de disseminação de imagens com nudes não consentidos não é novo. Muitos desses registros, segundo ela, eram simulados para constranger e ameaçar vítimas. "Sem dúvida a Inteligência Artificial deu uma escala muito maior para isso. É um encontro do que a tecnologia oferece com que a cultura ou a sociedade também produz de demandas, digamos assim. Você já tinha uma demanda por esse tipo de conteúdo, e a tecnologia vem com o mercado específico e oferece produtos específicos", pontua.
O Estatuto da Criança e do Adolescente, em seu artigo 241-C, cita que é crime simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual. A pena é detenção de um a três anos, além de multa. 
Post publicado em fórum para criar fakes nudes de uma moça sem consentimento
Além das imagens criminosas de adolescentes, os perfis compartilham nos fóruns pornô fakes de famosas como Anitta, Iza, Lexa e Larissa Manoela. As imagens, que podem ser encontradas facilmente em sites pornográficos, são disseminadas livremente nesses grupos. Inclusive há uma espécie de “competição" para quem produz primeiro as fakes solicitadas, como uma espécie de game. 
Esse fenômeno é mundial e não se restringe somente ao Brasil. Segundo dados da Graphika, empresa de pesquisa que estuda desinformação, as imagens de fakes nudes de Taylor Swift tiveram origem como parte de um desafio recorrente em um dos fóruns de mensagens mais notórios da internet. 
Juliana Cunha lembra que o design dessas plataformas facilita o propósito desses grupos. "A gente vê que algumas das plataformas são mais infestadas de conteúdo misógino, de violência contra mulheres. São fóruns anônimos, que reúnem determinados perfis de integrantes, como gamers. Percebemos que são meninos, temos esse recorte de gênero, é mais masculino e que muitas vezes se alimenta dessa cultura machista e misógina". 
Quem posta, por exemplo, fakes nudes de homens, tem a postagem excluída. "Favor não postar fotos e/ou caps contendo órgão genital masculino!. Nudez masculina nesse fórum é vetada!. Att: Moderação do fórum", diz o alerta em um dos grupos. 
As pessoas entram e são membros exatamente por essa motivação. Elas estão reunidas lá pelo mesmo interesse. Então, isso também é muito preocupante. A gente percebe que alguns desses serviços e algumas dessas plataformas são usadas unicamente para esse fim. E aí a gente tem grupos com muitos membros, às vezes centenas que estão ali reunidos só para trocar esse tipo de conteúdo, é o único interesse deles. Isso é problemático, porque dá para você detectar e dá para você evitar práticas criminosas nesses ambientes. Mas algumas plataformas, como no caso do Telegram, são coniventes
– Juliana Cunha, diretora da Safernet

Produção de fakes no Telegram

Os fóruns dedicados à produção de nudes falsos compartilham uma variedade de recursos, incluindo extensas listas de links para chatbots no Telegram. Muitas dessas contas são de fora do Brasil, contudo é possível modificar o idioma para o português. Alguns desses serviços oferecem ao menos a manipulação de uma imagem gratuita, mas a maioria cobra para compra de créditos que podem ser trocados para criar nudes. Qualquer pessoa pode ter acesso a esses links, sem qualquer restrição de idade. 
Numa das contas encontradas no Telegram, o usuário precisa aceitar termos de serviço para poder testar a ferramenta. O texto apresentado, em inglês, faz diversos alertas, afirmando que é proibido usar fotos sem consentimento ou de conteúdo ilegal, a exemplo de imagens de abuso e exploração sexual infantil. Na prática, entretanto, não há qualquer tipo de moderação da plataforma. 
Os criminosos também compartilham instruções para a geração de conteúdo falso. Entre elas, estão orientações sobre o ângulo correto da imagem, o corte da foto e o uso de roupas. A reportagem testou os chatbots do Telegram usando imagens de mulheres de biquíni produzidas por IA. Em menos de um minuto, o chatbot retornou com a foto da modelo sem qualquer vestimenta. 
Para seguir produzindo mais imagens, um dos chatbot cobra um valor irrisório de R$ 2. O pagamento pode ser feito via PIX. A chave aleatória estava em nome de uma instituição de pagamento que opera na modalidade de credenciadora. Criminosos usam essa tática para que suas identidades não sejam reconhecidas. Em outro chatbot, a chave PIX apareceu em nome de uma pessoa física. A Lupa entretanto não conseguiu localizar ou comprovar a veracidade das informações. 
Com o tempo, alguns dos links compartilhados não têm mais funcionamento — sejam porque foram excluídos ou derrubados pela plataforma. Quando alguém notifica o erro no fórum, outros links são acrescidos pela moderação. 

O que fazer em caso de imagem gerada por IA ser usada sem autorização

Apesar de não ter um artigo específico sobre Inteligência Artificial, o Código Penal brasileiro prevê punições em casos que envolvem montagem e uso de imagens sem autorização. 
Em seu artigo 216-B, o Código Penal tipifica como crime produzir, fotografar, filmar ou registrar, por qualquer meio, de conteúdo com cena de nudez ou ato sexual sem autorização. O texto reforça que a pena de seis meses a um ano de detenção também se aplica àqueles que realizam montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo.
O artigo 218-C do Código Penal criminaliza quem oferece, troca, disponibiliza, vende ou expõe à venda qualquer registro audiovisual que contenha cena de estupro ou que faça apologia à cena de sexo, nudez ou pornografia sem o consentimento da vítima. A pena é de um a cinco anos de prisão. 
Em caso de o usuário se deparar com sua imagem criada por Inteligência Artificial sem autorização circulando nas redes, a advogada Patrícia Peck recomenda, em primeiro lugar, coletar a evidência – ou seja, fazer um registro da tela para ter a prova do uso não autorizado. Em seguida, denunciar o caso na plataforma, aplicativo ou ferramenta onde o uso foi feito. 
"Os termos de uso de algumas aplicações, como a do Google já trazem as vedações, por exemplo, para o que não pode ser feito com o Bard [espécie de ChatGPT do Google]. Se identificar quem está utilizando, deve-se notificar para que deixe de fazer o uso. É recomendável buscar a orientação de um advogado para análise do caso e demais medidas legais cabíveis, incluindo possibilidade de ajuizar ação indenizatória", explica.
O advogado José Milagre reforça que a orientação inicial é sempre registrar a ocorrência, seja da delegacia online ou especializada para crimes cibernéticos. "Comumente, ingressamos com pedido de remoção do conteúdo em face dos provedores de aplicações, mensageiros, e identificação dos registros dos responsáveis, amparados pela Lei 12.965/2014, o Marco Civil da Internet". 

Projetos de Lei em andamento

Na Câmara Federal, existem ao menos 17 projetos de lei em tramitação que tipificam crimes de criação de 'deepfakes' gerados por Inteligência Artificial. A exemplo do Projeto de Lei 5694/23, do deputado federal Fred Linhares (Republicanos-DF), que estabelece pena de 4 a 8 anos de prisão e multa para quem manipular imagens ou sons com uso de IA para produzir conteúdo de sexo com criança ou adolescente. 
O PL 5.342/2023, apresentado em novembro do ano passado pelo deputado federal Marcelo Álvaro Antônio (PL-MG), tipifica o crime de "pornô fake" no Código Penal, incluindo qualquer criação, divulgação e comercialização de imagem de nudez ou de cunho sexual não autorizada, gerada por IA. A pena prevista no texto é de seis meses a um ano de prisão. O texto aguarda designação de relator na Comissão de Constituição e Justiça e de Cidadania (CCJC). 
Outro projeto de lei em tramitação é o PL 5.359/2023, da deputada federal Erika Kokay (PT-DF). A proposta altera o Estatuto da Criança e do Adolescente para criminalizar adulteração, montagem ou modificação de qualquer forma de representação visual por meio de Inteligência Artificial, que tenha algum tipo de teor com condutas relacionadas à pedofilia na internet. O PL foi apensado a outro projeto e aguarda parecer do relator na Comissão de Previdência, Assistência Social, Infância, Adolescência e Família (CPASF).

Outro lado

Em nota, o Telegram informou que tem moderado ativamente conteúdo prejudicial na plataforma, incluindo pornografia ilegal. "Os moderadores usam uma combinação de monitoramento proativo de partes públicas da plataforma e denúncias de usuários para remover conteúdo que viole nossos termos de serviço". A big tech também afirmou que os robôs citados na reportagem foram banidos. 
O Google, em nota, explicou que está trabalhando ativamente para trazer mais medidas de proteção à Busca. "Como qualquer mecanismo de pesquisa, o Google indexa o conteúdo já existente na web, e projetamos os sistemas de ranqueamento para evitar chocar as pessoas com conteúdos prejudiciais ou explícitos que elas não estão procurando. Também temos uma política de proteção para que as pessoas possam remover da Busca pornografia falsa que as inclua de maneira não consentida. À medida que esse espaço evolui, estamos em processo de criar proteções mais abrangentes, com um foco especial em soluções para que não seja mais necessário às vítimas solicitarem a remoção dos conteúdos um a um."
A empresa informou ainda que detecta, remove e denuncia proativamente esse tipo de conteúdo na Busca, "e temos proteções adicionais para filtrar e retirar o destaque de conteúdo que sexualiza menores". 

LEIA MAIS
Clique aqui para ver como a Lupa faz suas checagens e acessar a política de transparência
A Lupa faz parte do
The trust project
International Fact-Checking Network
A Agência Lupa é membro verificado da International Fact-checking Network (IFCN). Cumpre os cinco princípios éticos estabelecidos pela rede de checadores e passa por auditorias independentes todos os anos.
A Lupa está infringindo esse código? FALE COM A IFCN
Tipo de Conteúdo: Reportagem
Conteúdo investigativo que aborda temas diversos relacionados a desinformação com o objetivo de manter os leitores informados.
Copyright Lupa. Todos os direitos reservados. É proibida a reprodução do conteúdo desta página em qualquer meio de comunicação, eletrônico ou impresso, sem autorização.

Leia também


10.04.2024 - 17h41
Redes Sociais
X acumula embates com governos por falta de transparência e é proibido em 6 países

A extrema-direita vem usando o embate entre o dono do X, Elon Musk, e o ministro do STF Alexandre de Moraes para defender a "liberdade de expressão" diante do que eles chamam de "censura". Alegam que a rede pode ser bloqueada no Brasil e citam exemplos de países que proibiram o acesso. A Lupa elencou a situação do X em outras nações, confira.

Evelin Mendes
09.04.2024 - 11h36
Redes Sociais
Seis vezes que o X abriu brecha para desinformação em suposta defesa da liberdade de expressão

Um ano e meio desde a aquisição do Twitter por Elon Musk, agora chamado X, a rede ganhou a fama de ser o “esgoto da desinformação”. Sob o pretexto da “liberdade de expressão”, Musk permitiu que fakes circulassem livremente pela rede. A Lupa listou seis exemplos de decisões do bilionário que transformaram o X no epicentro de conteúdos falsos.

Carol Macário
06.04.2024 - 08h24
Eleições 2024
Falta de regulação e critérios de remoção de fakes impõem desafios ao TSE a 6 meses da eleição

Reportagem da Lupa mostra que, a 6 meses das eleições municipais, o desafio de estancar a desinformação — diante da falta de regulação pelo Congresso e pela omissão no monitoramento de algumas plataformas — vai exigir ainda mais atenção do TSE. Especialistas criticam ainda critérios que serão adotados para remoção de conteúdos enganosos.

Ítalo Rômany
05.04.2024 - 10h15
Política
Mistura de Páscoa, direito trans e NBA gera pico de 'fakes' nos EUA

Ignorando o fato de que o Dia da Visibilidade Transgênero existe desde 2009, religiosos conservadores usaram acusações falsas para atacar o presidente dos Estados Unidos, Joe Biden, na Páscoa, depois de ele ter manifestado apoio à comunidade trans em um comunicado.

Cristina Tardáguila
04.04.2024 - 15h25
Política
Lula volta a trocar mil por milhões e erra mortes de crianças em Gaza

O presidente Luiz Inácio Lula da Silva (PT) errou ao afirmar que 12,3 milhões de crianças morreram na Faixa de Gaza, em discurso na Conferência Nacional pelos Direitos das Crianças e Adolescentes em Brasília. É falso. Segundo o Fundo das Nações Unidas para a Infância (Unicef), 13,7 mil crianças foram mortas na região desde o início do conflito entre Israel e o Hamas.

Nathallia Fonseca
Lupa © 2024 Todos os direitos reservados
Feito por
Dex01
Meza Digital