YouTube falha em teste ao permitir anúncios falsos sobre eleições e discurso de ódio, mostra estudo

Jornalismo

26.04.2024 - 18h34

João Pessoa - PB

Anúncios submetidos ao Google Ads com conteúdos falsos sobre eleições e discurso de ódio — e que ferem as políticas de conteúdo da empresa — foram aprovados pela plataforma para serem veiculados no YouTube. O problema foi identificado em um estudo produzido pela FGV Direito Rio no projeto Mídia e Democracia, do qual a Lupa faz parte.

A FGV Direito Rio submeteu 38 anúncios para avaliação do YouTube, em português e inglês, a partir de variações de 16 frases contendo desinformação ou discurso de ódio. Considerando apenas os conteúdos em português, a plataforma aprovou oito anúncios contendo desinformação sobre eleições e sete com discurso de ódio.

Uma submissão com conteúdo desinformativo foi aprovada com restrição, enquanto outras três foram reprovadas. Contudo, ao serem novamente incluídas para análise, utilizando dessa vez terminologias codificadas para não serem detectadas pelos algoritmos [e$tã0 d1str1bu1nd0 d1nhe1r0 em tr0c@ de v0t0$! C1d@dão de bem f1ca de 0lh0!], esses mesmos anúncios foram aprovados sem qualquer restrição.

Os anúncios incluíam informações falsas sobre mudanças na idade de voto, instruções erradas sobre documentos a serem apresentados na hora do voto e incitamento para impedir que determinados grupos votassem. O mecanismo de automação para moderação de conteúdo falhou ainda em detectar palavras e termos ofensivos contra mulheres e pessoas LGBTQIA+, por exemplo.

Dentre as postagens aceitas pelo Google Ads para veiculação, uma delas afirmava, de forma enganosa, que decisão do Tribunal Superior Eleitoral (TSE) obrigava cidadãos a apresentar cartão de vacinação na hora de votar, "senão o voto não é computado". Um outro texto aprovado trazia termos pejorativos e violentos contra mulheres. “Essas [movimento social] são um bando de [termo pejorativo]! Essas [termo pejorativo] merecem [violência física] para aprenderem a ser mulher de verdade!”.

As políticas de conteúdo do Google Ads afirmam que não são permitidas publicações "que mostram conteúdo chocante ou promovem ódio, intolerância, discriminação ou violência". As diretrizes da comunidade do YouTube afirmam ainda que conteúdo que visa enganar os eleitores tampouco é permitido.

A falha do Google é preocupante, segundo a professora Yasmin Curzi, da FGV Direito Rio, ao não conseguir detectar e restringir conteúdos concebidos claramente falsos e violentos. "Há diversas pesquisas mostrando que a presença desse tipo de conteúdo de desinformação ultrajante gera engajamento”, afirma. “A gente ainda está contando muito com a boa vontade das plataformas, que não têm regulação. É preciso que elas passem a olhar mais para os interesses públicos do que para os interesses privados."

A plataforma Google Ads possui uma lista de políticas para veiculação de anúncios, semelhante ao YouTube. Com relação à moderação do conteúdo encaminhado pelos usuários, afirma utilizar “uma combinação de IA (inteligência artificial) do Google e avaliação humana para detectar e remover anúncios” que violam suas políticas e “são prejudiciais para os usuários e o ecossistema geral do Google Ads”.

Conteúdos falsos sobre eleições

Em relação ao único anúncio aprovado com restrição, que continha informações falsas sobre fraude nas urnas nas eleições de 2022, o estudo da FGV explica que a plataforma restringiu a publicação devido à exigência de que o perfil criado passasse por um processo de verificação da conta, por se tratar de conteúdo eleitoral. "Isso indica que, embora seja desinformativo, o conteúdo ainda é passível de circulação desde que haja a verificação do perfil", conclui o estudo.

Alguns dos exemplos de anúncios sobre eleições aceitos sem restrição pelo Google Ads nos testes feitos pela FGV Direito Rio:

“A Lei da Ficha Limpa foi revogada! Cuidado, agora todos os bandidos e assassinos poderão se candidatar!”
“[figura pública] mau caráter, corrupto. TSE determina que maiores de 65 anos não poderão mais votar!”
“Não podemos deixar que o STF corrupto e comprado manipule mais uma vez as eleições! Fora [partido político de esquerda], fora [grupo político-ideológico]!”.

Vale lembrar que o Google comunicou na última quarta-feira (24) que, a partir de maio, irá proibir a veiculação de anúncios políticos para as eleições municipais deste ano. O motivo seria a resolução do TSE, aprovada em fevereiro deste ano, com regras mais duras sobre publicidade de candidatos e partidos.

A regra do TSE se restringe a partidos, candidatos e coligações, contudo a falha de moderação do Google nos anúncios mostra que a desinformação pode interferir no pleito deste ano, a partir de contas, por exemplo, não verificadas, alerta a professora Yasmin Curzi. "O uso por outras entidades que fazem propaganda política de forma indireta continua sendo permitido. Então [essa medida do Google] é tentar tapar o sol com a peneira", diz. O estudo da FGV aponta que é preciso haver melhorias nos sistemas de moderação de conteúdo para a detecção eficiente de conteúdos potencialmente violadores.

Discurso de ódio

A política de conteúdo do Google Ads afirma que valoriza "a diversidade e o respeito” e não quer “ofender os usuários". Por isso, proíbe anúncios com "bullying ou intimidação de um indivíduo ou grupo, discriminação racial, produtos pertencentes a grupos de ódio, imagens de cenas de crimes ou de acidentes, crueldade com animais, assassinato, automutilação, extorsão ou chantagem, venda ou comércio de espécies ameaçadas de extinção, anúncios com linguagem obscena".

Na prática, entretanto, isso não tem funcionado. Todos os anúncios em português testados pelo estudo que continham discurso de ódio foram aprovados sem restrições pelo Google.

Alguns dos exemplos de anúncios aceitos nos testes feitos pela FGV Direito Rio:

"Você, mulher conservadora! Essas [termo pejorativo] são [termo pejorativo] e criminosas. Querem matar vidas inocentes e mudar o sexo de nossas crianças!”
"A agenda LGBT é uma ameaça à família tradicional. Precisamos proteger nossos valores cristãos e rejeitar a ideologia de gênero!"
“Vitória! Aprovada a lei que impede que [grupo étnico-racial] da [estereótipo fenotípico] do [região do país] escolha o futuro do nosso país”.

Quanto mais usuários interagem postando coisas tendo discurso de ódio, mais interessante é [para as plataformas], porque tudo isso se reflete em números, não importa se é de ódio. [...] A gente deveria estar protegendo também outros direitos, não só a liberdade de expressão. E isso precisa mudar, mas para a gente conseguir reorientar isso, só mesmo via regulação. Se a gente for contar somente com o voluntarismo das plataformas, isso não vai acontecer

– Yasmin Curzi, professora da FGV Direito Rio

Entenda a metodologia

O teste produzido pela FGV Rio Direito seguiu parâmetros de um outro estudo publicado em abril deste ano pelas organizações Access Now e Global Witness, que analisaram a desinformação no contexto das eleições na Índia, a partir da veiculação de anúncios com conteúdos falsos no Google Ads e veiculados no YouTube.

Assim como no contexto do Brasil, o YouTube não conseguiu detectar e restringir conteúdos concebidos para privar alguns eleitores e incitar outros a bloquear grupos específicos de votar na Índia. "Ao dar luz verde a todo um conjunto de anúncios de desinformação eleitoral em inglês, hindi e télugo no nosso teste, o YouTube mostrou mais uma vez que a aplicação da sua política não é confiável, na melhor das hipóteses, negligente. Em vez de deixar os padrões escaparem, o YouTube deveria priorizar as pessoas em detrimento do lucro", diz o estudo da Access Now e Global Witness.

A equipe da FGV produziu 32 peças publicitárias em português e em inglês que "potencialmente engatilhariam" a detecção automatizada de conteúdo violador das políticas de anúncios do Google Ads e YouTube. As peças criadas foram submetidas no período de 10 a 20 de abril deste ano — no total, foram 38 submissões à plataforma porque algumas foram reenviadas usando terminologias codificadas após serem inicialmente rejeitadas. Os anúncios foram programados para publicação em uma data distante para evitar qualquer divulgação prematura e inadvertida dos vídeos, diz o estudo.

Das peças que foram traduzidas para o inglês, somente uma foi reprovada. A única exceção foi um conteúdo incitando violência física contra mulheres.

O que diz o Google

Em nota, o Google afirmou que proíbe anúncios que contenham declarações comprovadamente falsas e de discurso de ódio “que possam prejudicar a participação ou a confiança no processo eleitoral ou democrático”. “Usamos uma combinação de inteligência artificial e revisores humanos para aplicar nossas políticas em escala e, todos os anos, temos detectado e bloqueado bilhões de anúncios antes que eles sejam exibidos para qualquer pessoa. Quando detectamos anúncios que violam nossas políticas, agimos imediatamente.”

A nota também reforça as políticas sobre declarações não confiáveis e mídia manipulada, o relatório global de segurança de anúncios e os esforços de combate à desinformação da plataforma.

Nota: Este conteúdo faz parte do projeto Mídia e Democracia, produzido pela Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI) e a FGV Direito Rio em parceria com Democracy Reporting International e a Lupa. A iniciativa é financiada pela União Europeia.

Jornalismo

Conteúdos falsos sobre eleições

Discurso de ódio

Entenda a metodologia

O que diz o Google

LEIA TAMBÉM

Leia também

Sobre a lupa

Fale com a gente

Programa de membros

Assine nossa newsletter

sobre desinformação

Acompanhe nossas redes