Estudo do Google mostra como redes de spam gerado por IA podem ser detectadas em escala

Pesquisa apresenta um sistema que analisa conteúdo, comportamento e infraestrutura para identificar operações coordenadas. Embora tenha sido desenvolvido para uma plataforma de vídeos, o método ajuda a entender novos desafios no combate ao spam sintético. 

Um estudo publicado por pesquisadores do Google apresenta uma nova abordagem para identificar redes coordenadas que utilizam inteligência artificial generativa para produzir e distribuir grandes volumes de conteúdo sintético.

Chamado de Scalable Cluster Termination System (S-CTS), o sistema não procura apenas determinar se uma publicação foi criada por IA. Seu objetivo é reconhecer grupos de contas que compartilham infraestrutura, comportamento de publicação e padrões de conteúdo, indicando que fazem parte de uma mesma operação.

O problema enfrentado pelos pesquisadores está na capacidade das ferramentas generativas de criar inúmeras variações aparentemente únicas de um mesmo material. Textos, áudios e vídeos podem apresentar diferenças superficiais e, ao mesmo tempo, reproduzir narrativas funcionalmente idênticas.

Esse tipo de produção dificulta a atuação dos sistemas tradicionais, que analisam cada publicação isoladamente. Uma operação pode modificar títulos, roteiros, imagens, vozes, idiomas ou localizações para produzir novos “exemplares” do mesmo conteúdo e permanecer abaixo dos limites de detecção da plataforma.

A resposta apresentada pelo estudo é deixar de olhar apenas para o conteúdo individual e ampliar a análise para a estrutura responsável por sua produção e distribuição.

Como o sistema identifica redes coordenadas

O S-CTS combina dois componentes principais de machine learning:

• Um detector de redes coordenadas, que utiliza sinais proprietários de infraestrutura, padrões de uso de APIs, cadência de publicação e relações entre contas;
• Um classificador de conteúdo sintético, que analisa textos, áudios, imagens, vídeos, embeddings semânticos e outros indícios compartilhados entre diferentes publicações.

Esses sinais permitem organizar contas relacionadas em “clusters de geração”: grupos que provavelmente utilizam a mesma API, automação ou infraestrutura para produzir conteúdo em escala.

O sistema também avalia a velocidade de publicação, o intervalo até o primeiro upload, termos recorrentes em títulos e descrições, similaridade entre roteiros e repetição de narrativas. O objetivo é identificar conteúdos que parecem diferentes, mas cumprem a mesma função dentro de uma operação coordenada.

Para textos, o estudo cita o uso de embeddings produzidos por modelos como o Sentence-BERT para encontrar roteiros semanticamente semelhantes. Isso não significa, entretanto, que o Sentence-BERT funcione como um detector universal de conteúdo escrito por IA. A tecnologia identifica proximidade semântica entre frases e narrativas; a classificação depende da combinação desse sinal com comportamento, infraestrutura e elementos multimodais.

A arquitetura utiliza ainda técnicas como Low-Rank Adaptation (LoRA) e Automatic Prompt Optimization (APO). Essas abordagens permitem adaptar o classificador a novos padrões de abuso e a novos modelos generativos sem a necessidade de retreinar completamente um modelo de grande porte.

Resultados apresentados pelo Google

De acordo com o estudo do Google, o S-CTS foi implementado em uma grande plataforma de vídeos e avaliado durante seis meses.

Nesse período, o sistema teria permitido o encerramento de 50 mil clusters, reunindo aproximadamente 130 mil canais envolvidos na produção de spam sintético. A automação também teria reduzido em 32% o tempo de validação dos clusters e em 50% o tempo de revisão dos conteúdos sintéticos, com uma economia estimada de 83 horas de análise humana.

Para decisões automatizadas de aplicação das políticas, o estudo reporta níveis de precisão entre 92% e 95%, dependendo da categoria analisada. Os pesquisadores também informam uma taxa de reversão inferior a 1%, indicando que poucas decisões precisaram ser corrigidas posteriormente.

O sistema adota uma estratégia que prioriza precisão em vez de alcance máximo. Casos com alta confiança podem ser tratados automaticamente, enquanto situações ambíguas são encaminhadas para revisão humana. O requisito de identificar um cluster coordenado também funciona como uma proteção para evitar que criadores legítimos sejam punidos apenas por utilizarem IA.

Ainda existem limitações. O próprio estudo reconhece que há poucos conjuntos de dados adversariais em grande escala para avaliar conteúdos produzidos pelos modelos generativos mais recentes, como Sora e Kling. Além disso, parte importante do sistema depende de sinais proprietários, o que dificulta sua reprodução e validação externa.

O que o estudo não confirma

A matéria do Search Engine Journal relaciona o estudo à possibilidade de identificação de spam textual. Essa é uma interpretação tecnicamente plausível, porque o sistema utiliza transcrições, embeddings e narrativas textuais como parte da classificação.

Ainda assim, o estudo foi desenvolvido para combater abuso coordenado em uma plataforma de vídeos. Ele não informa que o S-CTS esteja sendo utilizado no Google Search, nem que tenha se tornado um novo fator de ranking ou um sistema específico de penalização de páginas criadas com IA.

A existência de uma tecnologia capaz de analisar similaridade semântica em textos também não comprova que o Google esteja tentando identificar e rebaixar todo conteúdo produzido com inteligência artificial. O foco do sistema está no abuso coordenado, na produção em escala e nos padrões utilizados para contornar mecanismos de qualidade.

Por que isso importa para SEO, GEO e Organic Visibility?

A principal conclusão deste estudo não é que o Google finalmente aprendeu a identificar textos escritos por inteligência artificial. O avanço está na capacidade de reconhecer operações coordenadas por meio da combinação de conteúdo, comportamento e infraestrutura.

Essa diferença é fundamental. Um artigo analisado isoladamente pode parecer original. Quando observado ao lado de centenas de páginas semanticamente equivalentes, publicadas em alta frequência e construídas sobre os mesmos templates, o conjunto passa a revelar algo diferente: escala sem contribuição editorial proporcional.

O que está confirmado é a aplicação desse mecanismo contra spam sintético em uma plataforma de vídeos. Não há evidência de que o S-CTS seja utilizado no Google Search. A relação direta com SEO, portanto, ainda é uma inferência.

Essa inferência, porém, encontra respaldo em uma política já existente. O Google define scaled content abuse como a produção de grandes quantidades de páginas voltadas principalmente à manipulação dos rankings, com pouco ou nenhum valor original, independentemente de terem sido criadas por pessoas, automação ou inteligência artificial. Políticas de spam do Google.

Isso corrige uma leitura superficial: utilizar IA não é, por si só, o problema. O próprio Google reconhece que a tecnologia pode ajudar na apuração de informações e na estruturação de conteúdos originais. O risco aparece quando a eficiência operacional é convertida em volume repetitivo, sem precisão, relevância ou valor adicional. Orientações sobre conteúdo com IA.

Para SEO, isso amplia a necessidade de avaliar o site como um sistema editorial, não apenas como uma coleção de URLs. Uma auditoria deve identificar:

• Quantas páginas atendem essencialmente à mesma intenção de busca;
• Quanto do conteúdo muda apenas palavras, localizações, categorias ou produtos;
• Quais URLs apresentam dados, fontes, experiências ou análises realmente próprias;
• Se a frequência de publicação é compatível com um processo editorial responsável;
• Se cada página acrescenta Information Gain ou apenas reformula o consenso existente.

Para GEO, a consequência é indireta, mas relevante. Sistemas baseados em recuperação e grounding precisam selecionar fontes que contribuam para sustentar uma resposta. Não há evidência de que eles utilizem o S-CTS, mas é razoável inferir que uma pegada digital formada por conteúdos semanticamente repetitivos amplia o volume publicado sem fortalecer a capacidade da marca de ser compreendida, recuperada, citada e recomendada.

Na Organic Visibility, o mesmo princípio deve orientar a distribuição em sites, vídeos, redes sociais e outras superfícies. Adaptar uma ideia para diferentes formatos e audiências é válido. Replicar a mesma narrativa em escala, sem uma contribuição específica para cada canal, pode gerar alcance aparente sem construir autoridade real.

Ação imediata: identificar clusters internos de páginas e vídeos semelhantes, avaliando sobreposição de intenção, repetição semântica, cadência de publicação, fontes utilizadas e valor original.

Próximo ciclo: estabelecer controles editoriais que exijam contribuição própria, evidências, validação especializada e uma finalidade clara para cada conteúdo criado com apoio de IA.

Monitoramento: acompanhar indexação, impressões, cliques e conversões por template, além de menções, citações, Share of Voice e fontes utilizadas pelas IAs. Essa presença precisa avançar pela jornada completa: visibilidade → acessos → engajamento → conversões → receita.

A IA reduz o custo da produção em escala. O que decide se essa escala fortalece ou fragiliza uma marca é o valor acrescentado em cada conteúdo. Quando a tecnologia multiplica conhecimento, ela amplia autoridade. Quando multiplica apenas repetição, também torna o padrão de abuso mais evidente.

Aprofunde sua estratégia de conteúdo para SEO e GEO

Escrever para IAs não significa adotar uma linguagem artificial ou seguir um formato único. Significa organizar informações para que sejam úteis às pessoas e, ao mesmo tempo, possam ser compreendidas, recuperadas e utilizadas pelos mecanismos generativos.

No guia sobre Generative Engine Optimization (GEO), explicamos os fundamentos técnicos, semânticos e editoriais que aumentam as chances de uma marca ser citada e recomendada por sistemas como ChatGPT, Gemini, Perplexity e Google AI Mode.

Também vale conhecer o artigo sobre formatos de conteúdo para SEO e GEO, no qual mostramos por que guias, tutoriais, comparativos, listas, estudos de caso e artigos de opinião cumprem funções diferentes. Não existe um formato perfeito para SEO e GEO. Existe o formato adequado à intenção, ao canal e ao papel daquele conteúdo na jornada de decisão.

Na Hedgehog Digital, agência de SEO especializada em GEO, conectamos os fundamentos do SEO às novas camadas de compreensão, recuperação, citação e recomendação criadas pelas IAs. O objetivo não é apenas ampliar a produção, mas construir autoridade e transformar Organic Visibility em acessos, conversões e receita.