A Meta permitiu a veiculação de centenas de anúncios com material de abuso sexual infantil em plataformas como Instagram e Facebook, mesmo após prometer reforçar os filtros automáticos. A empresa afirmou que “não tolera aplicativos de nudez ou qualquer tipo de exploração infantil” e declarou que a maioria das peças foi removida com baixo alcance, porém pesquisadores argumentam que o sistema de moderação segue permeável.
O levantamento foi feito pela organização sem fins lucrativos Tech Transparency Project (TTP) e publicado pela revista WIRED na última terça-feira (9). Mais de 250 novas propagandas com cenas explícitas envolvendo crianças foram ao ar desde o início de agosto, de acordo com a entidade. A brecha ocorre logo após a Meta ter apagado cerca de 50 conteúdos idênticos e alegado que novas ferramentas de inteligência artificial (IA) impediriam reincidências.

Contatada pelo TecMundo, a Meta Brasil enviou um posicionamento oficial de repúdio ao uso de ferramentas para criar nudez não consensual:
“Não toleramos aplicativos de ‘nudify’ nem qualquer tipo de conteúdo de exploração infantil, seja real ou gerado por IA, em nossas plataformas. Esses criminosos mudam constantemente de tática para tentar escapar da detecção, e é por isso que seguimos fortalecendo nossos sistemas e a aplicação das nossas regras”, reforçou a empresa.
Ao contrário de casos anteriores restritos a simulações visuais genéricas, os pesquisadores identificaram rostos de crianças reais nos anúncios recentes. As imagens incluíram menores anônimos, influenciadores digitais e até o membro menor de idade de uma família real europeia, cuja foto oficial foi manipulada e convertida em vídeo pornográfico.
A diretora do TTP, Katie Paul, criticou a demora e a vulnerabilidade do serviço: “O que estamos falando aqui não é simplesmente material de abuso sexual infantil gerado por IA. Há muito dano que pode resultar disso, tudo enquanto a Meta lucra no processo”, pontuou ela, à WIRED.

Como operava a rede
Desde o fim do ano passado, o monitoramento rastreou mais de 350 peças do tipo distribuídas no ecossistema da Meta, incluindo Messenger e Threads. Registros catalogados na Biblioteca de Anúncios da empresa mostram que o formato padrão utilizava fotos cotidianas de meninas adolescentes com frases prometendo transformar os registros sem restrições. As gravações exibiam, em seguida, os rostos transpostos para corpos em atos sexuais explícitos.
O objetivo dessas campanhas era direcionar os usuários para o download de aplicativos externos capazes de despir pessoas digitalmente por meio de inteligência artificial. Cerca de 50 ferramentas desse gênero foram promovidas nas lojas virtuais da Apple e do Google, a maioria desenvolvida por empresas vinculadas à China.
Em complemento à nota enviada à reportagem, a Meta afirmou que parte do material foi barrada antes de atingir grande público:

“Os criminosos por trás dessa atividade sabem que construímos defesas robustas, incluindo sistemas que bloqueiam anúncios violadores, além de monitoramento contínuo para o caso de alguma violação não ser identificada inicialmente. Muitos dos anúncios sinalizados para nós já tinham sido removidos, a maioria teve menos de 200 impressões e o investimento total nesses anúncios foi inferior a US$ 5 mil”.
A companhia ressaltou ainda que repassou as notificações ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC).
Pressão sobre lojas de aplicativos
A presença dessas ferramentas também atingiu os ecossistemas do Google e da Apple, que afirmaram ter regras restritivas contra aplicativos voltados à nudez não consensual e pedofilia, conforme estabelecido pelas Diretrizes de Revisão da App Store e pelas Políticas do Google Play.

Adam Dema, porta-voz da Apple, explicou a estratégia dos fraudadores para ingressar na plataforma: “A App Store foi desenhada para ser um lugar seguro e confiável, e temos tolerância zero com desenvolvedores que tentam burlar nosso processo de revisão deliberadamente. Os desenvolvedores mencionados neste relatório enviaram inicialmente apps que cumpriam as diretrizes, para só depois liberarem os recursos de nudez.” A fabricante informou a exclusão de dezenas de títulos denunciados.
Em sintonia, o porta-voz do Google, Dan Jackson, adotou tom semelhante: “Tomamos medidas proativas de forma contínua para detectar e remover aplicativos com conteúdo nocivo.” Ele destacou a suspensão dos programas envolvidos e o bloqueio de termos de busca relacionados em sua loja.
Repercussão política
O caso provocou reações de autoridades internacionais e reguladores nos Estados Unidos e na Austrália, onde a comissária de eSafety abriu apurações sobre o cumprimento das regras locais. Em carta enviada ao presidente-executivo da Meta, Mark Zuckerberg, o senador norte-americano Mark Warner cobrou respostas diretas:

“É decepcionante que a Meta continue veiculando anúncios com material de abuso sexual infantil e imagens íntimas não consensuais após isso ter sido levado à atenção deles. A Meta precisa seguir seus próprios padrões de publicidade, atender ao chamado e dar um fim a esses anúncios ilegais e inapropriados.”
As apurações chegam em um período sensível para a corporação, que já enfrentou acordos bilionários e litígios estaduais sobre os impactos de suas redes na segurança de menores.
Para Emma Hardy, diretora da Internet Watch Foundation, ferramentas de IA facilitaram imensamente a criação desse tipo de material criminoso a partir de fotos comuns, o que exige tolerância zero na distribuição dos anúncios.

A dificuldade técnica de barrar os infratores também foi detalhada por David Pham, ex-funcionário da Meta que investigava abusos na rede. “Toda vez que a plataforma criava um novo modelo de detecção, eles rapidamente, em um ou cinco dias, criavam uma nova forma de evitar a detecção”, reforça. Ele acrescenta que a empresa tem recursos financeiros e tecnológicos suficientes para conter o avanço dessas publicações.
Por falar em segurança no universo digital, um golpe da falsa entrevista de emprego mira celulares para roubar dados. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.
