X de Elon Musk finalmente tenta impedir a epidemia de imagens de guerra geradas por IA

A plataforma de mídia social X foi inundada com fotos e vídeos falsos desde que o presidente Donald Trump lançou uma nova guerra contra o Irã na semana passada. Mas o chefe de produto da X, Nikita Bier, anunciou uma nova política na terça-feira que ele espera desincentivar as contas de compartilharem falsificações geradas por IA. Pelo menos quando a motivação para partilhar é puramente financeira.

“A partir de agora, os usuários que postarem vídeos de um conflito armado gerados por IA – sem adicionar a divulgação de que foi feito com IA – serão suspenso do Creator Revenue Sharing por 90 dias”, escreveu Bier na terça-feira em um postar no X.

“Violações subsequentes resultarão em uma suspensão permanente do programa. Isso será sinalizado para nós por qualquer postagem com uma Nota da Comunidade ou se o conteúdo contiver metadados (ou outros sinais) de ferramentas generativas de IA”, continuou Bier.

Não está imediatamente claro se haverá requisitos para o tamanho que uma divulgação pode precisar aparecer e se ela precisa ser incorporada ao vídeo ou pode ser meramente incluída no texto de um tweet. Existem muitas brechas que as contas X usam para falsificação de identidade, como criar um nome de usuário tão longo que a palavra “paródia” só apareça se você clicar para visualizar o perfil de uma determinada conta. As potenciais lacunas aqui também parecem infinitas.

Falsificação da Guerra EUA-Irã

Fotos e vídeos falsos obtiveram milhões de visualizações nos últimos dias, desde que os EUA e Israel lançaram uma guerra no Irã que matou o líder supremo, o aiatolá Ali Khamenei, e um grande número de outras autoridades iranianas. E até terça-feira não dava sinais de desaceleração.

Uma das imagens falsas incluía um piloto de caça norte-americano que foi abatido e supostamente confundido com um iraniano por um homem do Kuwait. com um cano. A imagem inclui a marca d’água SynthID do Google, o que significa que foi criada usando um dos produtos generativos de IA do Google.

Se você olhar de perto, as pessoas na imagem também estão faltando alguns dedosum sinal clássico de falsificação da IA.

Diversos diferente contas on X também compartilhou imagens que pretendem mostrar Tel Aviv, Israel, sendo bombardeada com foguetes.

Mas o vídeo tem vários grandes sinais de alerta que indicam que foi gerado com IA, de acordo com o rastreador de desinformação da BBC. Shayan Sardarizadeh. Os mais gritantes podem ser os carros nas ruas, que têm formas bizarras e não se parecem com carros reais.

Mas também há o áudio, que inclui alguém fora da câmera dizendo “Tel Aviv, não posso acreditar nisso”, de uma forma não natural que é perfeita demais se você estiver tentando espalhar informações falsas sobre um local específico.

Muitos usuários do X perguntaram ao Grok do xAI se o vídeo é real e ele parece responder consistentemente que sim. Um usuário que compartilhou o vídeo até insistiu que deveria ser real porque Grok disse isso.

#ULTIMAHORA
🚨 CASTIGA IRÁN COM FURIA A TEL AVIV

E si, si é real, si gustan checken con @grok… pic.twitter.com/oypZhe0OrE

— La Catrina Norteña (@catrina_nortena) 3 de março de 2026

Mas Grok é um péssimo verificador de fatos e não pode ser confiável para dizer se um vídeo é real, assim como não deve ser usado para nada que envolva a história da Segunda Guerra Mundial. Afinal, este é o próprio MechaHitler.

Vídeos mal rotulados

Uma questão que não foi respondida por X é se imagens e vídeos enganosos que não são necessariamente criados com IA serão desmonetizados. Porque existem muitas outras maneiras de enganar as pessoas nas redes sociais em tempos de guerra.

Um popular vídeo falso que se tornou viral também pretendia mostrar a embaixada dos EUA na Arábia Saudita em chamas. A embaixada foi de fato atingida por dois drones iranianos na segunda-feira, de acordo com o New York Timesmas não é isso que aparece no vídeo.

QUEBRANDO 🚨

EXPLOSÕES RELATADAS NA EMBAIXADA DOS EUA EM RIYADH, ARÁBIA SAUDITA pic.twitter.com/eMQVdDICol

– Iran Times (@ IranTimes9) 3 de março de 2026

Na verdade, o vídeo acima tem no mínimo um mês, tendo sido postado no YouTube em 6 de fevereiro. Não tem nada a ver com a guerra atual. Embora o vídeo pareça real, ele está sendo deturpado como algo que aconteceu recentemente.

Outro vídeo tinha a legenda “Um avião iraniano versus um navio dos EUA. Posso assistir isso o dia todo”, acumulando mais de sete milhões de visualizações. Na verdade, são imagens de um videogame. Criar um videoclipe com imagens do jogo e apresentá-lo como eventos atuais qualificará os usuários X para desmonetização? Não há sinal de que tenha sido criado usando IA, que é a única coisa que Bier mencionou em seu tweet na terça-feira.

Um avião iraniano VS um navio dos EUA.

Posso assistir isso o dia todo 😂 pic.twitter.com/qjLH2rA8V1

-Joel Fischer 🇺🇸 (@realJoelFischer) 1º de março de 2026

Ainda outro vídeo que ganhou atenção significativa supostamente mostrava a “sede da CIA” em Dubai com fumaça saindo dela após ser atingida pelo Irã. Uma conta que frequentemente publica desinformação alegou falsamente que as autoridades dos Emirados Árabes Unidos estavam prendendo qualquer pessoa que compartilhasse as imagens. Mas a filmagem é na verdade de 2015.

Surgiram imagens da sede da CIA em Dubai, alvo esta manhã do Irã.

Os Emirados Árabes Unidos estão prendendo aqueles que divulgam as imagens. Mas eles não podem esconder isso. pic.twitter.com/K3iPuvH4WU

– Garota Síria (@Partisangirl) 1º de março de 2026

Pessoas supostamente respeitáveis ​​podem se envolver no compartilhamento dessas imagens e vídeos falsos, como vimos repetidamente nos últimos dias. Apresentador da Fox News, Bret Baier compartilhado o vídeo falso da embaixada e o governador do Texas, Greg Abbott compartilhado a filmagem do videogame, embora ambos tenham excluído seus tweets.

Viveiro de desinformação

X é o marco zero para fotos e vídeos falsos sempre que surge uma notícia, seja sobre guerra ou qualquer outro assunto. Elon Musk ajudou a piorar o problema da desinformação depois de comprar o Twitter no final de 2022, convidando de volta os teóricos da conspiração que haviam sido banidos do site e eliminando as chamadas marcas de verificação de legado que ajudavam a dar aos usuários uma noção de em quem podiam confiar. E então a tecnologia generativa de IA tornou o problema ainda pior.

Musk também introduziu o programa de divisão de receitas para criadores, que criava incentivos para que os usuários recebessem mais atenção, independentemente de algo ser verdade ou não. E o próprio Musk frequentemente compartilha coisas que não são verdadeiras ou que são IA, como vídeos de Sidney Sweeney para promover Grok.

Musk não opinou pessoalmente sobre a nova política de desmonetização de contas que compartilham conteúdo de IA sem divulgação.

Os próprios incentivos de Musk

O comentarista de extrema direita Matt Walsh achou que a nova política X não foi longe o suficiente. “Por que não suspender qualquer pessoa que compartilhe qualquer conteúdo de IA sem revelar que se trata de IA?” Walsh perguntou em um tweet Terça-feira.

A resposta provavelmente é porque Musk prevê um mundo onde tudo o que os consumidores assistem no X seja gerado por IA. O bilionário disse isso em várias discussões, inclusive com o podcaster Joe Rogan no final do ano passado.

“A maior parte do que as pessoas consumirão em cinco ou seis anos, talvez antes disso, será apenas conteúdo gerado por IA. Então, músicas, vídeos…” Musk disse enquanto parava.

E os atores políticos que compartilham falsificações?

Parece um bom passo para desmonetizar contas que compartilham imagens de IA no X que não estão devidamente rotuladas, mesmo que seja uma medida muito modesta. Mas isso apenas desincentivará os usuários que compartilham porque estão tentando acumular visualizações para obter ganhos financeiros.

E quanto às contas que partilham por diferentes razões, como tentar influenciar a opinião pública ou mercados de apostas fora do controlo de X? Ou e se eles estiverem compartilhando apenas para agitar a merda? Porque na era da IA, basicamente não há obstáculos para a criação de um suprimento infinito de conteúdo falso, como Bier pareceu reconhecer na terça-feira.

“Em tempos de guerra, é fundamental que as pessoas tenham acesso a informações autênticas no terreno. Com as atuais tecnologias de IA, é trivial criar conteúdo que possa enganar as pessoas”, tuitou Bier.

X não respondeu às perguntas enviadas por email na terça-feira, o que não é uma surpresa. A empresa tem um histórico de hostilidade aos jornalistas desde que Musk comprou o Twitter. O Gizmodo atualizará este artigo se recebermos uma resposta.