O Pinterest ainda não resolveu seu problema de IA

O Pinterest ainda tem um problema de falha de IA. E um problema de moderação de conteúdo de IA. E um problema de rotulagem de IA.

Pelo menos, é isso que os usuários estão relatando em meio ao compromisso contínuo da empresa em transformar a plataforma de curadoria visual em um site de mídia social alimentado por IA. Num relatório de 404 Mídiaos usuários disseram à publicação que o sistema automático de moderação de conteúdo do Pinterest, incluindo um sistema que rotula o conteúdo como “AI modificado”, está sinalizando consistentemente e incorretamente imagens feitas por humanos, especialmente aquelas com mulheres, enquanto o desperdício real de IA só cresce.

Além disso, os usuários dizem que as ferramentas do site para restringir o conteúdo gerado por IA em feeds não estão conseguindo impedir que imagens de IA apareçam nos painéis de usuários, e os moderadores de contas alimentados por IA ainda estão banindo contas com pouca ou nenhuma explicação.

“Publicamos diretrizes claras sobre conteúdo sexual adulto e nudez e usamos uma combinação de IA e revisão humana para aplicação. Temos um processo de apelação onde um humano analisa o conteúdo e o reativa quando cometemos um erro”, disse o Pinterest em comunicado à 404 Media.

Isso não é novidade para muitas plataformas de mídia social que apostam na IA, mas é particularmente angustiante para os usuários da plataforma que têm pressionado para manter a mesma experiência no Pinterest. Durante anos, a plataforma foi criticada por falhando em conter fotos geradas por IAvídeos e anúncios, se não incentivarem sua existência no site no atacado.

Em março de 2025, a empresa atualizou sua política de privacidade para elucidar sua política de inserir pins públicos dos usuários em seus modelos de aprendizado de máquina, incluindo esforços de treinamento para o modelo básico de IA do Pinterest, o Pinterest Canvas. O Pinterest enfrentou novas críticas em maio, quando os usuários, já reclamando dos algoritmos cheios de conteúdo de IA que estavam arruinando a experiência do aplicativo, relataram banimentos de contas em toda a plataforma que muitos suspeitavam serem o resultado de um sistema de moderação de conteúdo de IA defeituoso.

Em resposta à controvérsia contínua sobre IA, o Pinterest adicionou ferramentas em outubro para filtrar tipos específicos de conteúdo de IA das recomendações, embora a empresa tenha deixado claro na época que não iria erradicar completamente o problema.

Então, no mês passado, a empresa anunciou que iria demitir centenas de funcionários em mais um impulso em direção à IA, escrevendo em um documento da SEC que iria priorizar “produtos e capacidades alimentados por IA” após o lançamento de sua ferramenta de compras alimentada por IA, o Pinterest Assistant. A empresa vem explorando a integração de IA há quase uma década.

Enquanto isso, o desperdício de IA está proliferando em plataformas de mídia social, incluindo Shorts do YouTube, bots e imagens geradas por Grok no X, e inteiramente Influenciadores renderizados por IA copiando vídeos de influenciadores famosos do TikTok.