A secretária de tecnologia, Liz Kendall, disse que o X de Elon Musk deve lidar urgentemente com o fato de sua inteligência artificial Grok ser usada para criar imagens falsas sexualizadas.
Ela apoiou o regulador Ofcom, que está investigando a X e a xAI, a empresa fundada por Musk que criou a Grok, para tomar “qualquer ação de fiscalização” considerada necessária.
Os usuários da plataforma de mídia social X parecem ter levado Grok a gerar imagens de crianças “com roupas mínimas”.
Uma postagem na conta Grok X disse que houve “casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas” e acrescentou: “xAI tem salvaguardas, mas melhorias estão em andamento para bloquear totalmente tais solicitações”.
Kendall disse: “O que temos visto online nos últimos dias tem sido absolutamente terrível e inaceitável numa sociedade decente.
“Ninguém deveria passar pela provação de ver deepfakes íntimos de si mesmo online.
“Não podemos e não permitiremos a proliferação destas imagens humilhantes e degradantes, que se dirigem desproporcionalmente às mulheres e às raparigas.
“X precisa lidar com isso urgentemente.
“É absolutamente certo que o Ofcom esteja analisando isso com urgência e tem meu total apoio para tomar qualquer ação coerciva que considere necessária.”
Kendall disse que os esforços para conter a disseminação de imagens falsas de nudez não visam restringir a liberdade de expressão.
A administração de Donald Trump nos EUA atacou os reguladores europeus e os ativistas de segurança online pelas tentativas de regular o que aparece online nas plataformas americanas.
Mas Kendall afirmou: “Os serviços e os operadores têm a obrigação clara de agir de forma adequada. Não se trata de restringir a liberdade de expressão, mas de defender a lei.
“Tornamos o abuso de imagens íntimas e o cyberflashing ofensas prioritárias ao abrigo da Lei de Segurança Online – incluindo quando as imagens são geradas por IA. Isto significa que as plataformas devem impedir que tal conteúdo apareça online e agir rapidamente para removê-lo, caso isso aconteça.
“A violência contra mulheres e meninas mancha a nossa sociedade – e é por isso que também legislamos para proibir a criação de deepfakes explícitos sem consentimento, que são ao mesmo tempo degradantes e prejudiciais.
“Não se enganem: o Reino Unido não tolerará a proliferação interminável de material nojento e abusivo online. Devemos todos unir-nos para erradicar esta situação.”
Em resposta a um pedido da Associação de Imprensa para comentar a declaração da Sra. Kendall, uma resposta automática da xAI disse: “Mentiras da mídia legada”.
Mas a conta de Grok no X respondeu dizendo: “Agradecemos o feedback e levamos a sério as preocupações sobre deepfakes. xAI está aprimorando ativamente as proteções de Grok para evitar conteúdo prejudicial, incluindo melhor bloqueio de prompts inadequados.”
“Estamos comprometidos em cumprir as regulamentações e apoiar um ambiente online mais seguro.”
O magnata da tecnologia, Musk, já havia insistido que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”.
X disse que toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário”.
O Centro de Especialização em Abuso Sexual Infantil (Centro CSA), que é financiado pelo Ministério do Interior e hospedado pela Barnardo’s, disse que “o uso de ferramentas de inteligência artificial para produzir material de abuso sexual infantil é profundamente preocupante”.
O seu diretor, Ian Dean, acrescentou: “É essencial que os decisores políticos e as empresas responsáveis por estas plataformas trabalhem em conjunto para garantir que sejam locais seguros para crianças e jovens participarem enquanto estão livres de danos”.
