PUBLICIDADE

Extrema direita está usando IA para ‘vender’ Hitler para uma nova geração; entenda

Vídeos do líder nazista falando em inglês estão chegando a milhões de pessoas na internet. Os especialistas temem que eles estejam alimentando uma onda de antissemitismo

PUBLICIDADE

Por Pranshu Verma (The Washington Post ) e Will Oremus (The Washington Post)

Extremistas estão usando a inteligência artificial (IA) para reanimar Adolf Hitler online para uma nova geração, reformulando o líder nazista alemão que orquestrou o Holocausto como uma figura “incompreendida”, cujas mensagens antissemitas e anti-imigrantes são ressonantes na política atual.

Em áudios e vídeos que alcançaram milhões de espectadores no último mês no TikTok, X, Instagram e YouTube, a voz clonada por IA do führer treme e cresce enquanto ele apresenta versões em inglês de alguns de seus discursos mais notórios, incluindo seu discurso no Reichstag em 1939 prevendo o fim do povo judeu na Europa. Algumas pessoas que buscam disseminar a prática de criar vídeos de Hitler organizaram treinamentos online.

Conteúdos extremistas se espalham rapidamente nas redes sociais Foto: tippapatt/Adobe Stock

PUBLICIDADE

As postagens, que utilizam ferramentas baratas e populares de clonagem de voz por IA, receberam elogios em comentários no X e no TikTok, como “Sinto sua falta, tio A”, “Ele era um herói” e “Talvez ele NÃO seja o vilão”. No Telegram e na “dark web”, os extremistas se gabam de que os discursos manipulados por IA oferecem uma maneira envolvente e sem esforço de reempacotar as ideias de Hitler para radicalizar os jovens.

“Esse tipo de conteúdo está disseminando redpills na velocidade da luz para públicos enormes”, publicou o American Futurist, um site que se identifica como fascista, em seu canal público do Telegram em 17 de setembro, usando uma frase que descreve a reformulação drástica da visão de mundo de alguém. “Em termos de propaganda, é inigualável.”

A propaganda - documentada em vídeos, mensagens de fóruns de bate-papo e gravações de tela de atividades neonazistas compartilhadas exclusivamente com o The Washington Post pelo Institute for Strategic Dialogue (Instituto para o Diálogo Estratégico), uma organização sem fins lucrativos, e pelo site Intelligence Group (Grupo de Inteligência) - está ajudando a alimentar o ressurgimento do interesse online por Hitler na direita americana, segundo especialistas. Em um relatório publicado na sexta-feira, 27, os pesquisadores do ISD descobriram que o conteúdo que glorifica, desculpa ou traduz os discursos de Hitler para o inglês acumulou cerca de 25 milhões de visualizações no X, TikTok e Instagram desde 13 de agosto.

Os vídeos estão ganhando força à medida que o ex-presidente Donald Trump e seu companheiro de chapa republicano, o senador JD Vance, de Ohio, avançaram em teorias da conspiração populares entre as comunidades neonazistas online, incluindo alegações infundadas de que os imigrantes haitianos em Ohio estão comendo animais de estimação.

Especialistas afirmam que a última geração de ferramentas de IA, que podem conjurar imagens, vozes e vídeos realistas em segundos, permite que grupos marginais dêem nova vida a ideologias abominadas, apresentando oportunidades de radicalização - e desafios de moderação para empresas de rede social.

Publicidade

“Isso possibilita um novo tipo de envolvimento emocional que pode ser muito mais sedutor para uma nova geração”, disse Emerson T. Brooking, membro sênior residente do Digital Forensic Research Lab do Atlantic Council.

Um usuário organizou uma transmissão ao vivo no site de compartilhamento de vídeos Odysee no ano passado, ensinando as pessoas a usar uma ferramenta de clonagem de voz de IA da ElevenLabs e um software de vídeo para criar vídeos de Hitler. Em cerca de cinco minutos, ele criou um clone de voz com IA de Hitler que parecia fazer um discurso em inglês, reclamando que os judeus lucravam com um sistema capitalista.

O usuário, que usa o apelido OMGITSFLOOD e é identificado como um “proeminente criador de conteúdo neonazista” pelo site Intelligence Group, que rastreia a supremacia branca e a atividade jihadista online, disse na transmissão ao vivo que Hitler é “um dos melhores líderes que já existiu”. O usuário acrescentou que esperava inspirar um futuro líder como Hitler, que pode estar “votando em Trump”, mas “simplesmente não foi enganado”.

Artemis Seaford, vice-presidente de segurança de IA da ElevenLabs, disse que a empresa proíbe o uso de suas ferramentas para criar conteúdo violento, odioso ou de assédio. Depois que o The Post sinalizou o vídeo da transmissão ao vivo para a ElevenLabs, Seaford disse que a empresa baniu o usuário de sua plataforma. (A ferramenta de voz de IA da ElevenLabs foi usada por um agente democrata no início deste ano para falsificar a voz do presidente Joe Biden).

Odysee e OMGITSFLOOD não retornaram os pedidos de comentários.

Para criar o vídeo, foi necessário apenas uma amostra de alguns segundos do discurso de Hitler retirado do YouTube. Sem a IA, a falsificação teria exigido recursos avançados de programação. Alguns especialistas em desinformação e discurso de ódio dizem que a facilidade da IA está turbinando a disseminação de conteúdo antissemita online.

“Agora é muito mais fácil divulgar esse tipo de conteúdo”, disse Abbie Richards, pesquisadora de desinformação da organização sem fins lucrativos de esquerda Media Matters for America. “Quanto mais você publica, maiores são as chances de que isso chegue a muito mais pessoas do que jamais chegaria.”

Publicidade

Os neonazistas estão sempre procurando maneiras de “forçar” suas narrativas no discurso dominante, disse Rita Katz, diretora executiva do site Intelligence Group, que detalhou como os extremistas usam a IA em um relatório. A IA ajuda criando mensagens que chamam a atenção das pessoas, acrescentou.

“Esses vídeos disfarçados de Hitler com IA (...) atraem os usuários com um pouco de curiosidade e depois os levam a ouvir um monstro genocida”, disse Katz.

No TikTok, X e Instagram, os discursos de Hitler gerados por IA não costumam ter as marcas da propaganda nazista. Um vídeo publicado no TikTok em setembro mostrava a silhueta de um homem que parecia se assemelhar a Hitler, com as palavras: “Apenas ouça”.

Sobre uma batida instrumental lenta, uma voz de Hitler gerada por IA fala em inglês em sua cadência característica, recitando trechos de seu discurso de 1942 em comemoração ao Beer Hall Putsch, um golpe nazista fracassado em 1923 que levou Hitler à proeminência. O vídeo, que não está mais online, teve mais de 1 milhão de visualizações e 120 mil curtidas, de acordo com a Media Matters for America.

Os discursos de Hitler com IA podem ser eficazes como ferramentas de radicalização mesmo quando não são acompanhados de comentários explícitos pró-Hitler, disse Isabelle Frances-Wright, diretora de tecnologia e sociedade da ISD. “Há uma grande diferença entre ler uma tradução alemã dos discursos de Hitler e ouvi-lo dizer isso de forma muito emotiva em inglês”, disse ela.

Frances-Wright os comparou com os vídeos que se tornaram virais no TikTok no ano passado, nos quais os criadores de conteúdo liam trechos do manifesto “Carta para a América” de Osama bin Laden, obtendo respostas de jovens americanos como: “OMG, nós éramos os vilões?”

No TikTok, os usuários podem facilmente compartilhar e desenvolver os vídeos usando os recursos de “dueto” do aplicativo, que permitem que as pessoas publiquem o vídeo original junto com um vídeo de sua própria reação a ele, disse Richards. Como os vídeos não contêm logotipos evidentes de terroristas ou extremistas, eles são “extremamente difíceis” de serem policiados pelas empresas de tecnologia, acrescentou Katz.

Publicidade

Tracy Clayton, porta-voz da Meta, disse que a empresa removeu os vídeos do Instagram após ser alertada pelo The Post porque eles violavam as políticas de conteúdo da empresa. Nick Smith, porta-voz do TikTok, disse que a empresa removeu todos os vídeos que o Post sinalizou para a empresa porque eles violavam as diretrizes da comunidade do TikTok. Jack Malon, porta-voz do YouTube, disse que as diretrizes da comunidade do site “proíbem conteúdo que glorifique ideologias odiosas, como o nazismo, e removemos o conteúdo sinalizado pelo The Washington Post”.

O relatório da ISD observou que o conteúdo pró-Hitler em seu conjunto de dados alcançou os maiores públicos no X, onde também era mais provável que fosse recomendado pelo algoritmo do site. O X não retornou um pedido de comentário.

O número de grupos neonazistas ativos nos Estados Unidos diminuiu desde 2017, de acordo com os relatórios anuais do Southern Poverty Law Center, organização sem fins lucrativos, em parte como resultado da repressão das autoridades policiais após o mortal comício “Unite the Right” em Charlottesville naquele ano.

Mas isso não significa que o nazismo esteja em declínio, disse Hannah Gais, analista de pesquisa sênior do centro. Os extremistas de direita estão recorrendo a fóruns online, em vez de grupos oficiais, para organizar e gerar conteúdo, usando as principais plataformas de mídia social para atingir um público mais amplo e recrutar novos adeptos.

Embora seja impossível quantificar o impacto no mundo real da propaganda online da extrema-direita, disse Gais, é possível ver evidências de sua influência quando figuras proeminentes como o analista conservador Tucker Carlson, o bilionário Elon Musk e o conselheiro de Trump, Stephen Miller, defendem elementos da teoria da conspiração antissemita da “grande substituição”, ou quando atiradores em massa em Buffalo, El Paso e Christchurch, na Nova Zelândia, a citam como inspiração.

Esses eventos de alta notoriedade, por sua vez, revigoram o interesse online em ideologias de extrema direita. O relatório da ISD descobriu que as postagens glorificando ou defendendo Hitler aumentaram no X este mês depois que Carlson publicou uma entrevista com o revisionista do Holocausto Darryl Cooper, que Musk republicou e chamou de “vale a pena assistir”. (Musk posteriormente excluiu sua postagem).

Carlson, Musk e Miller não responderam aos pedidos de comentários.

Publicidade

No início deste ano, o teórico da conspiração pró-Trump Dominick McGee postou no X uma recriação de áudio com IA em inglês do discurso de Hitler no Reichstag em 1939, que obteve 13 mil retuítes, 56 mil curtidas e mais de 10 milhões de visualizações, de acordo com as métricas do X. (Os especialistas observam que as contagens de visualizações no X podem estar infladas em comparação com as de outros sites).

“Essa tradução de IA oferece aos espectadores uma visão da mente de Hitler”, escreveu McGee, cuja conta no X Musk foi reintegrada de forma polêmica no ano passado, após ter sido suspensa por publicar um vídeo de abuso sexual infantil. Embora a publicação de McGee não tenha endossado as opiniões de Hitler, muitas das respostas indicaram aprovação, enquanto outras solicitaram traduções do discurso para o francês, árabe e bengali.

Jared Holt, pesquisador sênior da ISD que co-escreveu um relatório recente separado sobre o aumento do nacionalismo branco no TikTok, disse que os extremistas geralmente estão entre os primeiros grupos a explorar as tecnologias emergentes, que muitas vezes permitem que eles contornem as barreiras que bloqueiam esses materiais em plataformas estabelecidas.

Holt disse que não se pode presumir que todos os que assistem ou compartilham um vídeo ou meme sobre Hitler da IA concordem com ele - alguns podem apenas achar engraçado ou ousado.

“Mas, no esquema mais amplo da política, isso pode ter um efeito de dessensibilização ou normalização se as pessoas encontrarem esse conteúdo repetidamente”, disse ele.

Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.

Comentários

Os comentários são exclusivos para assinantes do Estadão.