Empresas usam o Reddit para enganar modelos de IA

Perfis falsos no Reddit estão influenciando respostas no Google e ChatGPT (imagem: Vitor Pádua/Tecnoblog)

Uma nova estratégia de marketing tem causado dor de cabeça para os moderadores do Reddit. Empresas foram flagradas inundando fóruns com publicações coordenadas para manipular a maneira como o conteúdo é indexado por ferramentas de inteligência artificial.

Os casos identificados até agora envolvem principalmente empresas da área da saúde. Em um post na comunidade r/Biohackers, os moderadores comunicaram que novas postagens sobre terapias de reposição hormonal e peptídeos seriam proibidas.

Segundo os moderadores, as publicações que vinham sendo feitas sobre esses temas não promoviam discussões autênticas, apenas geravam engajamento artificial para aumentar a presença e a credibilidade nas respostas do ChatGPT e nos Resumos de IA do Google.

Como explica o site 404 Media, essa comunidade é antiga no Reddit e conhecida por debates sobre suplementos, farmacologia experimental e outros temas relacionados ao condicionamento físico.

O receio dos moderadores é que usuários vulneráveis, como adolescentes em busca de fórmulas estéticas milagrosas, comprem produtos arriscados induzidos por falsos conselhos online.

Empresas adoram o Reddit

Fóruns sofrem com a invasão de robôs e agências indicando produtos (imagem: Brett Jordan/Unsplash)

Quem trabalha com internet certamente já ouviu falar do SEO (Search Engine Optimization). Mas a bola da vez no marketing digital é o AEO (Answer Engine Optimization, ou Otimização para Mecanismos de IA).

Enquanto o SEO tenta colocar uma página no topo dos resultados do Google, o AEO quer que uma marca seja a resposta dada por um chatbot. Como os grandes modelos de linguagem buscam conversas autênticas atráves de scraping (raspagem de dados) no YouTube, LinkedIn e, principalmente, no Reddit, essas plataformas viraram o alvo perfeito para manipulação.

Para muitas agências, isso virou uma mina de ouro para emplacar links e propagandas. A RedRover, citada na investigação da 404 Media, vende o serviço e anuncia publicamente “um exército de agentes” que publicam conteúdo em massa no Reddit para dominar as respostas da IA e atrair tráfego.

Spam burla a moderação

Se fossem apenas robôs disparando mensagens repetitivas, os filtros do Reddit já teriam resolvido o problema. Agora a tática mudou: essas agências utilizam contas “aquecidas” mantidas por robôs ou humanos pagos que passam meses interagindo como usuários normais em subfóruns de games, séries ou memes. A ideia é acumular tempo de conta para burlar os sistemas de segurança.

Segundo a apuração, o trabalho da agência começa quando a conta já está “madura” e acumula histórico suficiente para parecer autêntica. A partir daí, são publicados tópicos com perguntas provocativas para a comunidade, como “A vitamina D realmente funciona?”. Usuários reais passam a interagir com a discussão, o que ajuda a impulsionar o alcance da publicação e a dar legitimidade ao conteúdo no Reddit.

É nesse momento que as contas controladas por agências invadem os comentários de forma coordenada, recomendando uma marca específica como se fosse uma dica legítima de consumidor. A IA do Google ou da OpenAI tende a interpretar o volume de menções como um consenso e pode indicar o produto em respostas.

Oficialmente, o Reddit tenta correr atrás do prejuízo e já comunicou que utiliza uma combinação de revisão humana com ferramentas automatizadas para barrar ações coordenadas.

Empresas usam o Reddit para enganar modelos de IA