Nos últimos anos, marcas e spammers têm usado o Reddit para manipular chatbots de IA, inundando os principais subreddits com conteúdo promocional, e esses esforços estão se tornando mais sofisticados.
De acordo com um relatório publicado pela 404 Mediamoderadores de r/biohackers – um grande subreddit focado em suplementos e biologia DIY – anunciou na semana passada que estava restringindo postagens sobre peptídeos e terapia de reposição hormonal depois de descobrir que as empresas que vendem esses produtos estavam sistematicamente semeando a comunidade com conteúdo patrocinado projetado para ser copiado por ferramentas como ChatGPT e as ferramentas de pesquisa de IA do Google.
O modo IA do Google rotula algumas postagens do Reddit e de mídia social como ‘conselhos de especialistas’
A prática está sob a égide de Otimização generativa do mecanismo de IA (GEO), ou otimização de mecanismo de IA (AEO), uma evolução da otimização de mecanismo de pesquisa tradicional (SEO). Como os chatbots de IA recorrem frequentemente ao Reddit para gerar respostas, as empresas identificaram a plataforma como um alvo de alto valor para definir o que essas ferramentas recomendam.
As empresas de marketing construíram ofertas completas de serviços em torno disso. A 404 Media identificou uma empresa, a RedRover, que anuncia abertamente a implantação de agentes de IA para publicação em massa de conteúdo no Reddit e em blogs para influenciar as classificações do Google e do ChatGPT.
Velocidade da luz mashável
O que torna isso difícil de policiar, disse um moderador à 404 Media, é que as contas que fazem isso são deliberadamente construídas para parecerem humanas. As contas sinalizadas têm históricos de postagem, engajamento aparentemente orgânico e menções à marca estrategicamente cronometradas, enterradas em tópicos de alto tráfego.
Reddit disse à 404 Media que suas equipes de segurança usam ferramentas automatizadas para detectar e remover esse conteúdo, mas os moderadores dizem que as táticas se tornaram sofisticadas o suficiente para que sua captura dependa cada vez mais do reconhecimento de padrões, em vez de qualquer sistema automatizado. Políticas de spam do Reddit proibir o uso da plataforma “para envolvimento em massa repetido ou não solicitado.“
O relacionamento do Reddit com bots e manipulação é muito anterior à era da IA. A plataforma tem lutado contra o comportamento inautêntico coordenado durante anos – desde anéis de manipulação de votos para campanhas de influência patrocinadas pelo estado para diversas contas de spam – com resultados mistos. Em 2024, o Reddit atualizou seu arquivo robots.txt para impedir que raspadores de IA não autorizados acessassem seus dados, uma medida que o diretor jurídico da empresa reconheceu ao Mashable não era legalmente aplicável, mas serviu como um sinal público de que o acesso não licenciado ao conteúdo do Reddit não era bem-vindo.
Há uma ironia no atual problema do AEO: o Reddit fechou simultaneamente acordos de licenciamento com empresas de IA – incluindo OpenAI – para permitir que seus modelos treinem no conteúdo do Reddit para uso comercial. A plataforma está, ao mesmo tempo, vendendo seus dados para a IA e lutando para manter a manipulação impulsionada pela IA fora de suas comunidades.
Quer saber mais sobre como tirar o melhor proveito da sua tecnologia? Inscreva-se nos boletins informativos de notícias e ofertas principais do Mashable hoje.
Tópicos
Inteligência Artificial Reddit
