Grok, o aplicativo de IA de propriedade da xAI de Elon Musk, quase foi retirado da App Store da Apple no início deste ano em meio a um escândalo sobre deepfakes sexualizados de pessoas reais gerados pela ferramenta que proliferou no X, anteriormente conhecido como Twitter.
De acordo com reportagem da NBC NewsA Apple disse aos senadores dos EUA em uma carta sobre suas negociações com xAI por meio do aplicativo, incluindo avisos de que Grok seria removido da App Store se não fossem feitas alterações para resolver a crise do deepfake. Um relatório separado da NBC esta semana, uma investigação sobre Grok, descobriu que imagens sexualizadas geradas por IA ainda estão vindo de Grok e divulgação on-line.
Representantes da Apple e da xAI não responderam imediatamente aos pedidos de comentários. A CNET também entrou em contato com as assessorias de imprensa de três senadores autores uma carta para Apple e Google (PDF) em janeiro, que os incentivou a aplicar as regras da loja de aplicativos para lidar com os problemas de deepfake de Grok.
Grok é a principal ferramenta de IA disponível para usuários da plataforma de mídia social X e, além de poder responder perguntas como um chatbot, Grok também pode gerar imagens e vídeos. No final do ano passado, surgiram relatos de abuso generalizado dessa função por usuários que solicitaram imagens sexualizadas de pessoas, incluindo crianças, que foram postadas no X. Desde então, Musk postou atualizações sobre mudanças no Grok e salvaguardas que foram implementadas, mas o relatório da NBC News sugere que essas mudanças não eliminaram o uso do Grok AI para deepfakes sexualizados, incluindo imagens geradas por IA de mulheres em trajes reveladores, toalhas ou roupas, como sutiãs esportivos.
Em um declaração sobre Xa empresa disse: “Proibimos estritamente os usuários de gerar deepfakes explícitos não consensuais e de usar nossas ferramentas para despir pessoas reais. O xAI possui amplas salvaguardas para evitar tal uso indevido, como monitoramento contínuo do uso público, análise de tentativas de evasão em tempo real, atualizações frequentes de modelo, filtros imediatos e salvaguardas adicionais.”
Proibimos estritamente os usuários de gerar deepfakes explícitos não consensuais e de usar nossas ferramentas para despir pessoas reais. xAI possui amplas salvaguardas para evitar tal uso indevido, como monitoramento contínuo do uso público, análise de tentativas de evasão em tempo real,… https://t.co/lhvuhr3p2D
– Segurança (@Segurança) 14 de abril de 2026
Indo e voltando com a Apple
O relatório da NBC News aponta para comunicações da Apple dizendo aos senadores que, em resposta ao clamor público sobre o Grok, alertou que mudanças precisavam ser feitas nos aplicativos X e Grok. A xAI supostamente enviou versões de aplicativos para ambos, com o aplicativo Grok sendo rejeitado e então retrabalhado para obter a aprovação da Apple.
Na carta da Apple, o diretor sênior de assuntos governamentais da empresa, Timothy Powderly, disse aos senadores que “a Apple abomina esses tipos de imagens e os danos que elas infligem. Aplicativos que geram e proliferam esse tipo de conteúdo violam nossas políticas e não são permitidos em nossa plataforma”.
A carta, compartilhada com a CNET pelo gabinete do senador Ron Wyden, detalha as políticas de aplicativos da Apple e as etapas tomadas com os aplicativos X e Grok. A Apple disse que, após esse processo, “determinamos que o Grok melhorou substancialmente e, portanto, aprovou seu envio mais recente. Essa aprovação permitiu que o Grok atualizasse os aplicativos instalados nos dispositivos dos usuários com o software aprimorado. Esperamos que o Grok inclua melhorias adicionais nos envios subsequentes”.
A Apple deixou a porta aberta para uma remoção futura se Grok violar os termos da Apple. “Como deixamos claro para eles – assim como para todos os desenvolvedores – se não conseguirem cumprir as Diretrizes, serão removidos da App Store.”
Em declaração à CNET, Wyden, um democrata do Oregon, também criticou o Google por não responder a um pedido de legisladores relacionado a preocupações sobre Grok. Um representante do Google não respondeu imediatamente a um pedido de comentário.
“Agradeço a resposta detalhada da Apple às nossas perguntas sobre como ela respondeu à repugnante proliferação de CSAM e deepfakes não consensuais nos aplicativos Grok e X”, disse Wyden. “Continua sendo chocante que [President Donald] O Departamento de Justiça de Trump não tomou nenhuma medida para responsabilizar X pela produção e distribuição de grandes quantidades de material vil.”
