UOL - O melhor conteúdo
Lupa
Levantamento inédito revela perfil e aumento na circulação de fakes envolvendo IA
Um dos poucos dados capazes de jogar luz sobre o tamanho do impacto da inteligência artificial no universo da desinformação vem do Google. Desde 2019 a Fact Check Tool API reúne todas as checagens que a big tech considera como sendo profissionais e permite que não só os produtos e serviços lançados pela própria empresa façam uso de seus resultados como também que pesquisadores extraiam inteligência desse material.
Em 28 de fevereiro, quando o Tribunal Superior Eleitoral (TSE) aprovou uma resolução proibindo o uso de deepfakes e estabelecendo limites para o uso de inteligência artificial na campanha eleitoral deste ano, a Lupa mergulhou na API do Google para entender o problema que a Corte tenta endereçar: seu tamanho, suas características e seus formatos mais populares. 

O volume e o idioma das checagens sobre IA

Entre 1 de março de 2023 e 28 de fevereiro de 2024, 509 checagens profissionais foram publicadas e indexadas pelo Google fazendo menções às expressões "inteligência artificial" ou "deep fake" em suas respectivas traduções para os dez idiomas mais falados do mundo (inglês, mandarim, espanhol, hindu, francês, árabe, bengali, russo, português e urdu). 
Isso significa que, em um ano, uma média de 42 fact-checks foram publicados por mês apontando para falsidades, exageros ou distorções tecnologicamente criadas — ou simplesmente falando de casos em que há relação direta com o tema inteligência artificial. E esse número está em ascensão.
Dados da API do Google indicam que, se observados apenas os dois primeiros meses de 2024, a média de checagens que sinalizam mentiras fabricadas por IA ou que abordam o tema de forma genérica subiu para 70 por mês, numa alta de 62%.
"Deepfakes" e peças fabricadas por IA foram assunto de verificações publicadas e indexadas pelo Google em 30 idiomas no período analisado pela Lupa. Inglês, espanhol e árabe despontaram, nessa ordem, como líderes. Português, que é apenas o nono idioma mais falado no planeta, apareceu em quarto lugar. Veja a seguir: 

Um mergulho no português

No período de 12 meses analisados, os checadores que trabalham em português publicaram 25 verificações que apontavam para falsidades tecnologicamente fabricadas ou que simplesmente mencionavam IA em seus textos. A curva ascendente observada na totalidade dos idiomas entre dezembro de 2023 e fevereiro de 2024 também ocorre na língua portuguesa. 
Se a média mensal de fact-checks relativos à IA do ano passado não chegou a 2 (foi de 1,8), nos dois primeiros meses deste ano pulou para 3,5 checagens desse tipo a cada 30 dias. Há diversas razões para esse crescimento. A principal delas, a inegável popularização do assunto.
Nove organizações de mídia publicaram ao menos uma checagem sobre inteligência artificial no período analisado. Sete delas são brasileiras (Lupa, Aos Fatos, Boatos.org, AFP Checamos, Estadão Verifica, e-Farsas e UOL) e duas são portuguesas (Observador e Polígrafo). Das nove, sete são signatários e seguem o Código de Ética da International Fact-Checking Network (IFCN).

Qual o cenário no Brasil?

Quando excluídos da análise os conteúdos flagrados em Portugal, chega-se a um total de 19 checagens indicando uso controverso de IA ou mencionando esse assunto tendo sido publicadas em língua portuguesa ao longo de um ano. E, nesse universo, chama atenção o fato de seis dessas checagens – ou seja, quase um terço – terem vindo à tona em 2024, comprovando a tendência de alta.
O dado mais relevante, no entanto, vem da análise do conteúdo. Nenhuma das verificações trata de fotos, vídeos ou áudios ligados à política ou a políticos nacionais. Nenhum partido ou coalizão é mencionado nas peças desinformativas fabricadas por IA. A única que menciona eleição não trata de um conteúdo manipulado. Apenas mostra que o fundador do Fórum Econômico Mundial, Klaus Schwab, não defendeu que a inteligência artificial deve substituir processos eleitorais. A checagem comprova que frases ditas por Schwab foram editadas e tiradas de contexto.  
No conjunto, não há qualquer indícios de que a IA foi usada contra o Judiciário nem contra o Legislativo brasileiro. A palavra "governo", seja em referência a qualquer forma de governança, aparece em três checagens que mencionam IA. 
Uma, feita pela Lupa, alerta para um vídeo manipulado em que o apresentador de televisão Luciano Huck aparece. A gravação inclui um áudio que jamais foi gravado por Huck para aplicar o golpe do ‘Saque Esquecido’. Esse áudio foi gerado artificialmente, e o link que acompanha esse material não remete a um site do governo (do tipo gov.br), mas a um domínio suspeito.
As outras duas checagens com a palavra "governo" também não mostram conteúdos manipulados. Apenas tratam do assunto inteligência artificial. Apontam que é falsa a informação de que o Fórum Econômico Mundial tenha ordenado a governos do mundo que a Bíblia fosse reescrita por IA (aqui e aqui).
Nuvem de palavras feita a partir do material (frases, vídeos, áudios etc) que foi verificado e consta no Fact Check Tool API
No universo de falsidades fabricadas por IA e identificadas em português, não foi detectada nenhuma de grande relevância ou impacto – algo que tenha sido capaz, por exemplo, de mudar os rumos de uma política pública. No mar de miudezas, há um "parque demoníaco" produzido por inteligência artificial, uma falsa foto do ativista australiano Julian Assange preso e o suposto lançamento de uma "mulher artificial" na China.
Os dados extraídos da API do Google ainda indicam que conteúdos artificialmente gerados que terminam viralizando em português tratam – na maioria dos casos – de temas vindos de fora do país e com baixa relevância.

LEIA MAIS

Clique aqui para ver como a Lupa faz suas checagens e acessar a política de transparência
A Lupa faz parte do
The trust project
International Fact-Checking Network
A Agência Lupa é membro verificado da International Fact-checking Network (IFCN). Cumpre os cinco princípios éticos estabelecidos pela rede de checadores e passa por auditorias independentes todos os anos.
A Lupa está infringindo esse código? FALE COM A IFCN
Tipo de Conteúdo: Notícia
Conteúdo de hard news sobre eventos relevantes referentes à desinformação.
Copyright Lupa. Todos os direitos reservados. É proibida a reprodução do conteúdo desta página em qualquer meio de comunicação, eletrônico ou impresso, sem autorização.

Leia também


09.05.2024 - 08h45
Tragédia no Sul
Pix: veja como se proteger de golpes em doações para o RS

O ímpeto de contribuir com a situação e ajudar as vítimas da crise que vive o estado do Rio Grande do Sul pode se transformar em combustível para criminosos, que se aproveitam do cenário de instabilidade e do espírito voluntário da população para confundi-la.

Victor Terra
08.05.2024 - 18h35
Tragédia no Sul
Enchentes no RS: piadas e memes são outro desastre na tragédia

O sofrimento capturado em fotos e vídeos se transformou, para alguns, em material para memes e comentários insensíveis. Especialmente em contextos de dor e perdas coletivas, é fundamental entender os limites entre humor e responsabilidade social.

Raphael Kapa
07.05.2024 - 13h12
Tragédia no Sul
5 passos para não desinformar em meio à tragédia do RS

Em cenários de catástrofe ambiental, conteúdos desinformativos se tornam ainda mais graves e perigoso, podendo custar vidas

Victor Terra
14.03.2024 - 11h44
Entrevista
Fakes são parte de disputa narrativa pela memória da Marielle, diz viúva Monica Benicio

Em entrevista exclusiva à Lupa, a vereadora Monica Benicio (PSOL-RJ) falou sobre ataques e desinformação em torno de Marielle Franco, com quem foi casada. Para Monica, existe hoje uma disputa política a respeito da memória de Marielle. Ela também destaca a importância da regulamentação das redes sociais para coibir crimes ligados às fakes. 

Nathallia Fonseca
13.03.2024 - 08h00
Desinformação
Levantamento inédito revela perfil e aumento na circulação de fakes envolvendo IA

Ferramenta que reúne checagens profissionais feitas em todo o mundo mostra que, em 12 meses, a média de verificações que tratam de IA está em alta em diversos idiomas, inclusive em português. Em um ano, checadores brasileiros publicaram 19 conteúdos do tipo

Cristina Tardáguila
Lupa © 2024 Todos os direitos reservados
Feito por
Dex01
Meza Digital