Uso indevido de inteligência artificial para gerar material de abuso infantil em redes sociais é destaque em nova rodada de notícias sobre segurança digital nos Estados Unidos. Um levantamento recente revelou que a Meta não conseguiu detectar centenas de anúncios pagos com conteúdo de abuso sexual de crianças gerado por inteligência artificial em suas plataformas Facebook e Instagram, mesmo após a empresa afirmar manter uma política de tolerância zero contra esse tipo de material.
A descoberta foi feita pelo Tech Transparency Project (TTP), organização que investiga práticas de grandes empresas de tecnologia. De acordo com o relatório, divulgado no início de setembro, a Meta deixou passar 332 anúncios pagos contendo material de abuso sexual infantil gerado por IA ao longo de 2026. Os anúncios utilizaram em alguns casos fotografias reais de crianças, direcionando os usuários para aplicativos de troca de rostos e geração de vídeo, que transformavam imagens aparentemente inocentes em conteúdo explícito.
Segundo os pesquisadores, a campanha é mais ampla do que os números iniciais sugerem. Desde o início de agosto de 2026, foram identificados mais 250 anúncios adicionais com o mesmo tipo de material nas plataformas da Meta, incluindo o Threads. No total, mais de 350 anúncios em vídeo considerados abusivos foram publicados nos serviços da empresa desde o final de 2025. Os anúncios foram exibidos coletivamente para mais de 29 mil contas em países da União Europeia, cerca de 7 mil contas no Reino Unido, além de mais de 250 visualizações nos Estados Unidos, 120 na Austrália e 80 na Índia, onde a Meta não opera com restrições tão rígidas quanto em outros mercados.
Katie Paul, diretora do Tech Transparency Project, afirmou que o problema vai além da simples geração de material sintético. De acordo com a pesquisadora, parte das imagens utilizadas nos anúncios parece ter sido coletada da web antes de ser reaproveitada para fins criminosos, configurando um cenário em que a Meta lucra com a distribuição desse conteúdo enquanto as vítimas enfrentam danos adicionais.
A Meta, por sua vez, declarou à imprensa que mantém regras rígidas contra qualquer conteúdo que retrate danos físicos a crianças, sejam reais ou gerados por inteligência artificial, e afirmou que muitos dos anúncios identificados já foram removidos. O porta-voz da empresa, Andy Stone, disse que a companhia não tolera aplicativos de nudez ou qualquer forma de exploração infantil e que continua fortalecendo seus sistemas de detecção. A empresa também relatou o material ao National Center for Missing & Exploited Children, organização norte-americana responsável por receber denúncias desse tipo nos Estados Unidos.
O caso chamou atenção porque expõe uma falha persistente nos sistemas automatizados de revisão de anúncios das grandes plataformas digitais. Mesmo com investimentos significativos em moderação e em ferramentas de inteligência artificial para identificar conteúdo impróprio, os mecanismos da Meta não conseguiram impedir a circulação de materiais que violam tanto as políticas internas da empresa quanto legislações federais norte-americanas.
A revelação fez parte de uma rodada semanal de notícias sobre segurança digital publicada pela Wired, que também trouxe outros destaques relevantes. Entre eles, está a interrupção, por autoridades norte-americanas, do que é considerado o maior mercado negro da internet, além da condenação à prisão de um hacker ligado ao grupo de ransomware Conti, responsável por ataques cibernéticos contra empresas e órgãos governamentais em diversos países.
O conjunto de matérias evidencia como a inteligência artificial, ao mesmo tempo em que amplia a capacidade de empresas e governos de combater crimes digitais, também abre novas frentes de abuso. A facilidade de gerar imagens e vídeos sintéticos convivia neste ano com a crescente sofisticação de ataques cibernéticos e com debates sobre a responsabilização das plataformas digitais diante do conteúdo ilegal hospedado em seus serviços.
