O regulador do Reino Unido está investigando o X de Elon Musk sobre a ferramenta Grok AI, uma investigação que pode levar a uma multa pesada ou até mesmo à proibição da plataforma de mídia social na Grã-Bretanha.
Ofcom anunciou esta manhã que está testando o peso da nova Lei de Segurança Online do país sobre a ferramenta Imagine de Grok, que gerou manchetes e protestos nas últimas semanas por produzir fotos sexualizadas de mulheres e crianças.
Ofcom disse que sua investigação “segue relatos generalizados de que um modelo Grok no X está/estava sendo usado para gerar e compartilhar conteúdo que pode representar abuso de imagem íntima, CSAM [child sexual abuse material] e pornografia acessível às crianças.
A nova Lei de Segurança Online visa dar força ao governo do Reino Unido contra os gigantes da tecnologia dos EUA. Nesse caso, o Ofcom poderia ser multado em £ 18 milhões (US$ 24,2 milhões) ou 10% da receita mundial qualificada (o que for maior). Se houver incumprimento repetido, o Ofcom poderá apresentar um pedido a um tribunal para impor uma ordem que forçaria os fornecedores de serviços de Internet a proibir X. A investigação é o caso de maior visibilidade para a lei, que só entrou em vigor há dois anos.
X está a ser investigado relativamente ao seu dever de realizar uma avaliação de risco de conteúdos ilegais adequada e suficiente, aos seus deveres de segurança em relação a conteúdos ilegais, aos deveres de realizar uma avaliação de riscos adequada e suficiente para as crianças e aos deveres de segurança que protegem as crianças.
A reação contra Grok Imagine ocorreu depois que várias imagens de mulheres sem roupas foram compartilhadas. Estes incluíam um garoto de 14 anos Coisas estranhas ator, que foi manipulado por Grok para colocá-la em um biquíni com estampa de banana, e apresentador que faz campanha pelos direitos de privacidade depois que fotos íntimas foram compartilhadas em sua escola sem consentimento quando ela tinha 15 anos.
O governo do Reino Unido, incluindo o primeiro-ministro Keir Starmer, tem sido um dos críticos mais veementes da ferramenta. Depois que Musk alterou as regras do X para restringir a ferramenta a assinantes pagantes, o governo chamou essa medida de “um insulto às vítimas de misoginia e violência sexual”. Um porta-voz do governo acrescentou: “O que isso prova é que X pode agir rapidamente quando deseja”.
O prazo final chegou a X para comentar a investigação do Ofcom. Musk disse na semana passada: “Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”. X disse: “Tomamos medidas contra o conteúdo ilegal em X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário”.
A reação negativa da semana passada não impediu a xAI, empresa-mãe da X que criou a Grok e sua ferramenta de imagem, de anunciar um aumento de financiamento de US$ 20 bilhões.
