A Apple alertou privadamente a empresa xAI de Elon Musk em janeiro que removeria o aplicativo Grok da App Store, a menos que a empresa acabasse com os deepfakes nus e sexualizados do chatbot, de acordo com uma carta que a Apple enviou aos senadores dos EUA e obtida por Notícias da NBC ($).
No início deste ano, as capacidades de IA do Grok foram examinadas depois que usuários do X compartilharam imagens sexualizadas não consensuais de mulheres e crianças criadas pelo aplicativo, muitas das quais baseadas em fotos de pessoas reais.
O que se seguiu foi uma implementação confusa de alterações de moderação no Grok, algumas das quais poderiam ser facilmente contornadas. Publicamente, a Apple não comentou a polêmica na época, mas respondeu, sendo de fato a instigadora das mudanças. Internamente, a empresa considerou que tanto X quanto Grok violavam as diretrizes da App Store e exigiu que seus desenvolvedores apresentassem um plano de moderação de conteúdo, revela a carta.
De acordo com a carta, a Apple rejeitou uma correção inicial do xAI como insuficiente, dizendo que “as mudanças não foram suficientemente longe”, e a Apple avisou que alterações adicionais eram necessárias ou Grok seria removido. Depois de mais idas e vindas, no entanto, a Apple finalmente concluiu que o envio posterior do aplicativo havia melhorado o suficiente para que ele fosse aprovado.
A divulgação foi aparentemente motivada por uma carta de janeiro dos senadores Ron Wyden, Ben Ray Luján e Edward Markey, que instaram a Apple e o Google a retirarem ambos os aplicativos, argumentando que as imagens violavam as regras da App Store que proíbem conteúdo ofensivo, sexual e explorador.
Os senadores também disseram que a resposta da Apple testaria seus próprios argumentos, já que a empresa há muito defende sua App Store, alegando que seu processo de revisão mantém os usuários mais seguros. Permitir que Grok continuasse a gerar este tipo de imagens, argumentaram eles, prejudicaria esse caso aos olhos do público e num tribunal.
Depois Notícias da NBC publicou seu relatório, X postou o seguinte declaração em sua plataforma:
“Proibimos estritamente os usuários de gerar deepfakes explícitos não consensuais e de usar nossas ferramentas para despir pessoas reais. A xAI possui amplas salvaguardas para evitar tal uso indevido, como monitoramento contínuo do uso público, análise de tentativas de evasão em tempo real, atualizações frequentes de modelo, filtros imediatos e salvaguardas adicionais.”
Embora a quantidade de deepfakes sexualizados criados por Grok e postados no X pareça ter diminuído significativamente, Notícias da NBC descobriram que Grok ainda é capaz de gerar imagens semelhantes, com alguns usuários aparentemente simplesmente atualizando suas táticas imediatas para contornar as salvaguardas. Você pode ler esse relatório na íntegra acessando seguindo este link.
Nota: Devido à natureza política ou social da discussão sobre este tema, o tópico de discussão está localizado em nosso Notícias Políticas fórum. Todos os membros do fórum e visitantes do site são bem-vindos para ler e seguir o tópico, mas a postagem é limitada aos membros do fórum com pelo menos 100 postagens.
