JACARTA (Reuters) – A Indonésia bloqueou temporariamente o chatbot Grok de Elon Musk no sábado devido ao risco de conteúdo pornográfico gerado por IA, tornando-se o primeiro país a negar acesso à ferramenta de IA.
A medida ocorre depois que governos e reguladores da Europa à Ásia condenaram e alguns abriram inquéritos sobre conteúdo sexualizado no aplicativo.
xAI, a startup por trás do Grok, disse na quinta-feira que estava restringindo a geração e edição de imagens a assinantes pagantes, enquanto tentava corrigir lapsos de salvaguarda que permitiam resultados sexualizados, incluindo representações de crianças seminuas.
“O governo vê a prática de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse a ministra das Comunicações e Digital, Meutya Hafid, num comunicado.
O ministério também convocou funcionários do X para discutir o assunto.
Musk disse no X que qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências como se tivesse carregado conteúdo ilegal.
xAI respondeu ao e-mail da Reuters solicitando comentários com o que parecia ser uma resposta automatizada: “Legacy Media Lies”. X não respondeu imediatamente a um pedido de comentário.
A Indonésia, com a maior população muçulmana do mundo, tem regras rígidas que proíbem o compartilhamento on-line de conteúdo considerado obsceno.
(Reportagem de Fransiska Nangoy; Edição de Stephen Coates)
