O aplicativo de IA autônomo da Meta está supostamente sendo inundado com clickbait de baixa qualidade, histórias emocionais falsas e conteúdo de isca de engajamento, levantando novas questões sobre como as plataformas de IA generativas estão sendo moderadas à medida que se tornam cada vez mais sociais e voltadas para o público.
De acordo com um Relatório de beiraos usuários do feed de descoberta social da Meta AI têm encontrado postagens estranhas geradas por IA, que vão desde confissões pessoais fabricadas até alegações de saúde enganosas e cenários fictícios bizarros projetados para atrair reações e compartilhamentos. O problema parece estar ligado à decisão da Meta de tornar as conversas e avisos gerados por IA publicamente detectáveis dentro do aplicativo, transformando efetivamente partes da plataforma em um feed de conteúdo no estilo de mídia social.
O resultado, argumentam os críticos, é um ecossistema onde os usuários são incentivados a gerar conteúdo de IA cada vez mais ultrajante ou emocionalmente manipulador para chamar a atenção. Algumas postagens supostamente se assemelham às táticas clássicas de clickbait do Facebook, enquanto outras confundem a linha entre sátira, desinformação e spam gerado por IA.
O impulso da Meta para a IA social está criando consequências não intencionais
A situação realça um desafio crescente que as empresas de IA enfrentam: o que acontece quando os chatbots evoluem de assistentes privados para plataformas sociais onde o conteúdo gerado é partilhado publicamente e apresentado por algoritmos.
A Meta tem posicionado agressivamente a IA como uma experiência social, e não apenas como uma ferramenta de produtividade. Em vez de limitar as interações a conversas privadas, a plataforma de IA da empresa incentiva os usuários a publicar avisos, imagens geradas e postagens assistidas por IA para que outras pessoas possam navegar e interagir.
Essa abordagem pode ajudar a impulsionar o envolvimento, mas também cria problemas familiares de moderação com os quais as plataformas de redes sociais têm lutado durante anos. Os relatórios sugerem que o feed Meta AI está agora trazendo à tona histórias carregadas de emoção, conselhos de vida questionáveis, experiências fabricadas e cenários exagerados projetados principalmente para desencadear reações em vez de fornecer informações úteis.
Para os usuários, a experiência pode rapidamente se tornar confusa. Como muitas postagens são geradas ou assistidas por IA, pode ser mais difícil distinguir entre experiências humanas autênticas, piadas, sugestões experimentais e narrativas totalmente fabricadas. Os críticos alertam que isto pode contribuir para uma erosão mais ampla da confiança online, especialmente à medida que o conteúdo gerado pela IA se torna mais realista e emocionalmente persuasivo.
A questão também reflete uma tendência mais ampla na indústria de IA, onde as empresas correm para aumentar o envolvimento dos utilizadores, ao mesmo tempo que tentam estabelecer barreiras de proteção eficazes em torno do conteúdo gerado. À medida que as ferramentas de IA se tornam mais interativas e socialmente orientadas, os sistemas de moderação lutam para acompanhar o ritmo.
O futuro dos feeds sociais alimentados por IA pode depender da moderação
A Meta não posicionou o feed como uma rede social tradicional, mas a plataforma se comporta cada vez mais como tal. Os usuários podem percorrer interações de IA visíveis publicamente, da mesma forma que navegam no conteúdo do Instagram, Threads ou Facebook.
Isso é importante porque os algoritmos de recomendação podem amplificar o conteúdo mais envolvente, independentemente da qualidade ou precisão. Se postagens sensacionais ou enganosas geradas por IA atraírem consistentemente a atenção, as plataformas poderão recompensar involuntariamente a criação de conteúdo de baixa qualidade, da mesma forma que as mídias sociais historicamente recompensaram a indignação e a isca de cliques.
A controvérsia surge à medida que a Meta continua integrando a IA em todo o seu ecossistema, incluindo WhatsApp, Instagram, Facebook e experiências autônomas de IA. A empresa vê a IA conversacional como uma parte importante da futura experiência na Internet, mas a reação atual sugere que os utilizadores e os reguladores podem exigir controlos mais fortes sobre a forma como o conteúdo gerado pela IA é apresentado e rotulado.
Por enquanto, o feed de IA da Meta oferece uma visão antecipada do que acontece quando a IA generativa colide com a dinâmica das redes sociais – e os resultados já parecem surpreendentemente familiares.
