UOL - O melhor conteúdo
Lupa
Como a lei brasileira pune o uso de IA para gerar nudes ou pornô fakes
23.11.2023 - 12h46
Rio de Janeiro - RJ
O uso de aplicativos para criar imagens geradas por Inteligência Artificial (IA) tem ultrapassado os limites ao permitir a manipulação de registros audiovisuais com nudes falsos e vídeos pornôs. Em novembro deste ano, ao menos 10 adolescentes de Belo Horizonte (MG) tiveram suas imagens expostas sem autorização em falsos nudes criados com uso de IA e disseminados em aplicativos de mensagens. Casos semelhantes ocorreram no Rio de Janeiro (RJ) e no Recife (PE).
Em geral, as vítimas são mulheres, que têm suas imagens usadas em simulação de cenas de sexo, feitas por aplicativos que são encontrados facilmente na internet. Em outubro, a atriz Isis Valverde teve uma foto alterada, em que aparece sem roupa, compartilhada nas redes — gerada por IA. A cantora Taylor Swift e a atriz Gal Gadot também tiveram suas imagens violadas por esse tipo de tecnologia.
"Quando a integridade e a intimidade de uma pessoa é violada, o bem jurídico é violado. Não há como permitir que esses aplicativos circulem com facilidade violando os direitos fundamentais. Os riscos são muito maiores para as mulheres, que são as principais vítimas. O impacto na vida pessoal e profissional dessas pessoas é enorme", ressalta a professora Yasmin Curzi, da FGV Direito Rio e coordenadora do Programa Diversidade e Inclusão
Apesar de não ter um artigo específico sobre Inteligência Artificial, o Código Penal brasileiro prevê punições em casos que envolvem montagem e uso de imagens sem autorização. A advogada Patrícia Peck, especialista em direito digital, explica que, atualmente, o enquadramento é nos crimes contra a honra, injúria e difamação. Se envolver criança ou adolescente, pode ser enquadrado no Estatuto da Criança e do Adolescente (ECA).
Entretanto, para além da questão penal, de acordo com a professora Yasmin Curzi. é preciso discutir a regulamentação de plataformas que permitem com que aplicativos de criação de deep nudes sejam ofertados com facilidade.
A Lupa fez um levantamento dos principais artigos do Código Penal que podem tipificar o crime de manipulação de imagens e dos projetos de leis em tramitação que tratam do tema. Confira:

O que diz o Código Penal

Em seu artigo 216-B, o Código Penal tipifica como crime produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual sem autorização. O texto reforça que a pena de seis meses a um ano de detenção também incorre para quem realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo. 
O artigo 218-C do Código Penal criminaliza quem oferece, troca, disponibiliza, vende ou expõe à venda qualquer registro audiovisual que contenha cena de estupro ou que faça apologia à cena de sexo, nudez ou pornografia sem o consentimento da vítima. A pena é de um a cinco anos de prisão. 
A depender do caso, o uso da IA para processamento de imagens pessoais pode caracterizar difamação (quando atenta contra a honra), estelionato, falsa identidade (quando se tenta usar o resultado para golpes) ou mesmo extorsão (nos casos em que se pede dinheiro para não divulgar o conteúdo), explica o advogado José Milagre, perito especialista em segurança digital. 
Difamar alguém, imputando-lhe fato ofensivo à sua reputação, segundo o artigo 139 do Código Penal, pode gerar detenção, de três meses a um ano, além de multa. O crime também pode ser enquadrado no artigo 140, que trata sobre injúria. 
Já o Estatuto da Criança e do Adolescente, em seu artigo 241-C, cita que é crime simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual. A pena é detenção de um a três anos, além de multa. 

O que fazer em caso de imagem gerada por IA ser usada sem autorização

Em caso de o usuário ter sua imagem criada por Inteligência Artificial sem autorização circulando nas redes, a advogada Patrícia Peck recomenda, em primeiro lugar, coletar a evidência – ou seja, fazer um registro da tela para ter a prova do uso não autorizado. Depois, denunciar o caso na plataforma, aplicativo ou ferramenta onde o uso foi feito. 
"Os termos de uso de algumas aplicações como a do Google já trazem as vedações, por exemplo, para o que não pode ser feito com o Bard [espécie de ChatGPT do Google]. Se identificar quem está utilizando, deve-se notificar para que deixe de fazer o uso. É recomendável buscar a orientação de um advogado para análise do caso e demais medidas legais cabíveis, incluindo possibilidade de ajuizar ação indenizatória", explica.
O advogado José Milagre reforça que a orientação inicial é sempre registrar a ocorrência, seja da delegacia online ou especializada para crimes cibernéticos. "Comumente, ingressamos com pedido de remoção do conteúdo em face dos provedores de aplicações, mensageiros, e identificação dos registros dos responsáveis, amparados pela Lei 12.965/2014, o Marco Civil da Internet". 

Projetos de lei em tramitação

Além do que está previsto no Código Penal, no Congresso há propostas de legislações específicas sobre o tema. Na Câmara Federal, existem ao menos 12 projetos de lei em tramitação que tipificam crimes como golpes ou criação de 'pornô fakes' gerados por Inteligência Artificial. 
O PL 5.342/2023 foi apresentado em novembro deste ano pelo deputado federal Marcelo Álvaro Antônio (PL/MG). O projeto tipifica o crime de "pornô fake" no Código Penal, incluindo qualquer criação, divulgação e comercialização de imagem de nudez ou de cunho sexual não autorizada, gerada por IA. A pena prevista no texto é de seis meses a um ano de prisão. O texto aguarda designação de relator na Comissão de Constituição e Justiça e de Cidadania (CCJC). 
Outro projeto de lei em tramitação apresentado este ano é o PL 5.359/2023, da deputada federal Erika Kokay (PT/DF). A proposta altera o Estatuto da Criança e do Adolescente para criminalizar adulteração, montagem ou modificação de qualquer forma de representação visual por meio de Inteligência Artificial, que tenha algum tipo de teor com condutas relacionadas à pedofilia na internet. O PL foi apensado a outro projeto e aguarda parecer do relator na Comissão de Previdência, Assistência Social, Infância, Adolescência e Família (CPASF)
A Câmara também discute um projeto para regulamentar a Inteligência Artificial. O PL 759/2023 cria segurança jurídica para investimento em pesquisa e desenvolvimento de produtos e serviços, sistemas operacionais, plataformas digitais, criação de robôs, máquinas e equipamentos, considerando os limites da ética e os direitos humanos. O texto aguarda parecer do relator na Comissão de Ciência, Tecnologia e Inovação (CCTI).
Já no Senado, o PL 2.338/2023, proposto pelo presidente da Casa, Rodrigo Pacheco (PSD/MG), pretende regulamentar o uso de Inteligência Artificial no Brasil. O texto procura estabelecer diferentes níveis de risco atrelados ao uso dos sistemas de IA, de forma que, quanto mais sensíveis forem os dados manipulados, mais exigências sejam impostas às empresas que fabricam e que administram esses programas. O projeto atualmente aguarda audiência pública para discussão. 

LEIA MAIS
Clique aqui para ver como a Lupa faz suas checagens e acessar a política de transparência
A Lupa faz parte do
The trust project
International Fact-Checking Network
A Agência Lupa é membro verificado da International Fact-checking Network (IFCN). Cumpre os cinco princípios éticos estabelecidos pela rede de checadores e passa por auditorias independentes todos os anos.
A Lupa está infringindo esse código? FALE COM A IFCN
Tipo de Conteúdo: Explicador
Conteúdo que explica assuntos que são alvo de ondas desinformativas nas redes sociais.
Copyright Lupa. Todos os direitos reservados. É proibida a reprodução do conteúdo desta página em qualquer meio de comunicação, eletrônico ou impresso, sem autorização.

Leia também


29.02.2024 - 17h41
Eleições
Entenda as novas regras do TSE para IA e deepfake nas eleições de 2024

O Tribunal Superior Eleitoral (TSE) aprovou, em 27 de fevereiro, 12 novas resoluções para o pleito de 2024, que incluem a proibição do uso de deepfake na campanha eleitoral e restrições ao uso de inteligência artificial nas propagandas, que precisarão ter um rótulo informando sobre o uso da tecnologia. Confira as principais novidades da eleição.

Maiquel Rosauro
09.02.2024 - 14h15
Saúde
A vacina contra Covid é obrigatória para crianças? Entenda o que diz a lei

A vacinação de crianças de seis meses a menores de 5 anos contra Covid-19 é obrigatória no Brasil desde o início de 2024. Todavia, os pais não são forçados a imunizar seus filhos e crianças não vacinadas não podem ser impedidas de frequentar instituições de ensino. Entenda como funciona a obrigatoriedade da vacinação de crianças no Brasil

Maiquel Rosauro
05.12.2023 - 08h00
Justiça
Lei Maria da Penha: entenda como a lei protege mulheres de violência doméstica

Lei de 2006 cria uma estrutura de atendimento e proteção às vítimas de violência doméstica. Entre os serviços oferecidos, está assistência jurídica e médica, além de medidas protetivas para afastar o agressor. A Lupa conversou com especialistas em Direito da Mulher para entender quais são as garantias e os pontos principais da Lei Maria da Penha.

Evelyn Fagundes
27.11.2023 - 13h30
Eleições
Entenda como funciona o teste de segurança das urnas eletrônicas feito pelo TSE

O Teste Público de Segurança (TPS), realizado pelo TSE, é uma das principais etapas de verificação da segurança das urnas eletrônicas. Na edição deste ano, realizada a partir desta segunda-feira, o TPS traz novidades como o teste dos modelos de urna UE2020 e UE2022. Entenda o que é o TPS e como são feitos os testes durante o evento.

Bruno Nomura
23.11.2023 - 12h46
Crime
Como a lei brasileira pune o uso de IA para gerar nudes ou pornô fakes

O uso de apps para criar imagens geradas por Inteligência Artificial tem ultrapassado os limites, ao permitir a manipulação de registros com nudes falsos e vídeos pornôs. A Lupa fez um levantamento dos principais artigos do Código Penal que podem tipificar o crime de manipulação de imagens e dos projetos de leis em tramitação que tratam do tema

Iara Diniz
Lupa © 2024 Todos os direitos reservados
Feito por
Dex01
Meza Digital