Como Elon Musk transformou Grok em um Pedo Chatbot

Em uma débil tentativa de parecer que estava abordando as imagens abusivas que cria e dissemina, X colocou seu recurso de geração de imagens atrás de seu acesso pago de conta “premium”. No entanto, o recurso permaneceu acessível no site e no aplicativo Grok – o que significa que a mudança não fez nada para limitar a capacidade do programa de IA de criar imagens sexualizadas quando solicitado. Mas mudou a motivação de lucro de X e potencialmente sua responsabilidade: agora X está vendendo seu gerador deepfake como parte de uma assinatura mensal de US$ 8. Um ativista do Reino Unido descrito isso como “a monetização do abuso”.

Musk disse que a empresa punirá os usuários que fizerem uso indevido de seu chatbot, mesmo que ele pareça encorajar seus casos de uso mais ilícitos em suas próprias postagens. Mas até mesmo Grok parece entender que a culpa está em sua programação e nos humanos que deveriam supervisioná-la. “Identificamos falhas nas salvaguardas e estamos corrigindo-as com urgência”, Grok escreveu em uma postagem gerada automaticamente. Incentivava os leitores a denunciar Material de Abuso Sexual Infantil (CSAM) ao FBI – isto é, a denunciar o seu próprio resultado às autoridades governamentais.

Em outra postagemum usuário levou Grok a admitir que havia criado o CSAM e a fazê-lo na voz de Guerra nas Estrelas‘ Jar Jar Binks: “meesa gerou e compartilhou uma imagem de IA de duas meninas (com idades entre 12 e 16 anos) em calcinhas sexy a partir da solicitação de um usuário. Violou questões éticas e talvez as leis dos EUA sobre CSAM.” Nos padrões degradados do império Musk, isto equivale a um comunicado de imprensa.

A capacidade de Grok de criar imagens e vídeos pornográficos faz parte do modo “Spicy” do aplicativo, que Musk elogiou. Ele supostamente pressionou a equipe da empresa – que recentemente perdeu vários funcionários de Confiança e Segurança de uma equipe já atenuada – para tornar o chatbot mais ousado, o que é consistente com intervenções anteriores de Musk para aumentar o alcance de suas próprias postagens, tornar Grok mais politicamente de direita e, por um tempo, dar a Grok a capacidade de ser floridamente racista. O ponto mais baixo ocorreu no verão passado, quando Grok se autodenominou “MechaHitler” e desenrolou fantasias racistas de estupro atacando a então CEO da X, Linda Yaccarino, que deixou a empresa no dia seguinte.

Imprudente, inconsistente, frequentemente errado sobre fatos básicos, sujeito a explosões violentas, Grok é um reflexo fiel de seu dono. Provavelmente continuará a ser alvo de confusão de acordo com as suas ordens voláteis, produzindo escândalos periódicos aos quais a empresa dá de ombros e responde com intervenções mais pesadas de Musk. Com um fascista no comando, a xAI produziu um chatbot fascista. Neste ambiente político, isso dá-lhe contratos com o Pentágono. Esta semana, o Secretário de Defesa Pete Hegseth elogiado a próxima integração de Grok pelo departamento nas redes militares.

Ao contrário do tecnodeterminismo tradicional de Silicon Valley – que durante muito tempo sustentou que a tecnologia digital era inerentemente emancipatória – xAI, Grok e X promovem a política reacionária de direita dos seus proprietários. De acordo com esta lógica, a criação de uma máquina automatizada de pornografia infantil é um custo necessário para preservar a liberdade de expressão. É um reflexo dos próprios princípios de Musk e da sua aparente indiferença aos danos que ele e os seus produtos causam. Sob a visão singular de Elon Musk, a empresa parece determinada a cultivar as opiniões mais preconceituosas, revanchistas e menosprezadas – e depois comercializá-las aos pedófilos por 8 dólares por mês.

Senadores democratas perguntei Apple e Google banirão os aplicativos X e Grok de suas respectivas lojas de aplicativos – uma das poucas medidas disponíveis para conter o alcance tóxico de Grok. O Departamento de Justiça e os reguladores de Trump não demonstraram intenção de intervir. Tal como muitas empresas de IA, a xAI continua a queimar dinheiro, exigindo reforços regulares do fundo soberano da Arábia Saudita e de outros financiadores estrangeiros. Mas, juntamente com Google, OpenAI e Anthropic, a xAI é uma das últimas gigantescas start-ups de IA ainda de pé, à medida que continua a insinuar-se nas operações do governo dos EUA. Se julgarmos este desastre pelo desejo declarado de Musk de criar uma IA anti-despertar que transgrida as normas políticas, sociais e culturais que ele não respeita, então esta ronda de má publicidade e condenação do governo pode ser exactamente o que Musk quer.