Ofcom lançou uma investigação sobre X sobre a criação de imagens sexuais falsas usando sua ferramenta de IA Grok, depois que uma briga sobre a plataforma levou a sugestões de que ela poderia ser banida no Reino Unido.
Na segunda-feira, 12 de janeiro, o Ofcom iniciou formalmente a sua investigação depois de passar as primeiras semanas do ano solicitando informações do X e xAI de Elon Musk.
O furor eclodiu no início do ano, quando os usuários X reconheceram que alguns usuários usaram sua IA integrada, Grok, para gerar imagens de pessoas nuas, incluindo mulheres e crianças.
Ofcom disse: “Tem havido relatos profundamente preocupantes da conta do chatbot Grok AI no X sendo usada para criar e compartilhar imagens de pessoas nuas – o que pode equivaler a abuso de imagem íntima ou pornografia – e imagens sexualizadas de crianças que podem constituir material de abuso sexual infantil.”
O regulador disse que solicitou informações a X em 5 de janeiro e recebeu uma resposta em 9 de janeiro. A Ofcom disse que realizou uma avaliação das informações disponíveis e decidiu “abrir uma investigação formal para estabelecer se X não cumpriu as suas obrigações legais ao abrigo da Lei de Segurança Online”.
Grok é um programa de IA semelhante ao ChatGPT, totalmente integrado ao X. Os usuários podem marcar Grok em uma postagem e inserir um prompt solicitando que a IA faça algo por eles. A resposta de Grok estará disponível para todos os usuários verem.
A Internet Watch Foundation disse que seus analistas confirmaram a existência de “imagens criminais de crianças com idades entre 11 e 13 anos que parecem ter sido criadas usando a ferramenta (Grok)”.
Grok é a IA de Elon Musk, que está integrada ao X. (AP)
X transferiu a capacidade de geração de imagens da Grok para trás do serviço premium pago em resposta ao problema, mas o governo disse que isto não vai suficientemente longe.
De acordo com a Lei de Segurança Online do Reino Unido, as empresas de redes sociais devem prevenir e remover material de abuso sexual infantil quando tomarem conhecimento disso.
Vários outros países, incluindo a República da Irlanda e Canadá, também disseram que ficaram indignados com os deepfakes e estão considerando sancionar as plataformas, enquanto outras nações como a Indonésia o baniram completamente.
Liz Kendall, secretária de estado de ciência, inovação e tecnologia, disse que apoiaria o Ofcom em qualquer decisão que tomassem. (PA)
Almíscar e membros da administração Trump criticaram o primeiro-ministro Keir Starmer e o governo pela recente disputa, dizendo que estavam usando a questão para justificar a proibição de X e a restrição da liberdade de expressão.
X disse que toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil, “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário”.
Qual é a lei sobre o compartilhamento de nus profundos e falsos?
Police.uk, o site nacional de policiamento na Inglaterra, afirma que deepfakes podem ser criados por vários motivos, sendo muitos deles inofensivos, mas outros correm o risco de infringir a lei, especialmente quando usados para criar imagens nuas de uma pessoa real.
Acabar com a violência contra as mulheres diz que pornografia não consensual representa 96% de todos os deepfakes encontrados online, com 99,9% deles retratando mulheres.
No que diz respeito às crianças, Police.uk disse: “É ilegal fazer, compartilhar e possuir fotografias e pseudofotografias e/ou vídeos indecentes, incluindo deepfakes, de alguém com menos de 18 anos.
“Não importa se a pessoa retratada é real ou se é uma farsa criada ou alterada digitalmente.”
Para maiores de 18 anos, dizem que não é ilegal fazer essas imagens, mas é ilegal compartilhá-las ou ameaçar compartilhá-las com outras pessoas.
Também é ilegal usá-los para chantagem, fraude ou assédio.
Todos estes crimes podem enfrentar pesadas penas de prisão se forem processados, sendo os crimes relacionados com a pornografia infantil os que acarretam as penas de prisão mais severas.
Regulamentações específicas sobre o uso de IA para criar imagens íntimas não consensuais foram aprovadas pelo Parlamento em Julho, mas ainda não foram aplicadas.
A Lei de Uso e Acesso a Dados de 2025 tornaria ilegal solicitar que uma IA gerasse essas imagens sem consentimento, um avanço em relação às leis anteriores, que apenas proibiam seu compartilhamento.
O que Starmer e Musk disseram?
Starmer disse que apóia o Ofcom em qualquer decisão que eles tomem, dizendo que X precisa “agir em conjunto”.
Sir Keir disse à Greatest Hits Radio em 8 de janeiro: “Isso é vergonhoso. É nojento. E não deve ser tolerado.
Keir Starmer disse que X “precisa agir em conjunto”. (PA)
“X precisa controlar isso. O Ofcom tem todo o nosso apoio para tomar medidas em relação a isso. Isso está errado.
“É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa.
“É nojento. X precisa agir em conjunto e divulgar esse material. Tomaremos medidas sobre isso porque simplesmente não é tolerável.”
Musk rebateu as críticas, dizendo que o debate em torno disso estava sendo usado como uma “desculpa para a censura”.
Ele ressaltou que outros chatbots de IA com capacidade de geração de imagens também podem ser usados para criar imagens ilegais, mas sancioná-los não está sendo discutido.
Musk, que criticou ferozmente Starmer no passado, compartilhou imagens de IA feitas por outros chatbots de Starmer de biquíni para reforçar seu argumento.
Musk também compartilhou uma postagem da legisladora norte-americana Anna Paulina Luna ameaçando sancionar Starmer e o Reino Unido se X fosse bloqueado no país.
O magnata da tecnologia já havia insistido que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”.
O X poderia ser banido no Reino Unido?
A Lei de Segurança Online de 2023 forçou as empresas de mídia social a tomar medidas ativas para remover quaisquer imagens ilegais de suas plataformas e enfrentar sanções caso não o fizessem.
Vários deputados trabalhistas apelaram ao governo para parar de usar X nesta questão, algo que Downing Street não descartou.
A ex-ministra Louise Haigh disse em 8 de janeiro que a “permissão, se não o incentivo, do abuso sexual infantil significa que é injusto usar o site por mais um minuto”, e instou os ministros a se juntarem a ela para abandoná-lo.
Mas o governo disse que uma proibição total também é possível.
A secretária de tecnologia, Liz Kendall, disse que o governo apoiaria o regulador Ofcom se decidisse implementar uma proibição de acesso ao X no Reino Unido.
Ofcom tem poderes sob a Lei de Segurança Online para multar empresas em até £ 18 milhões ou 10% da receita global, bem como para tomar medidas criminais.
Também pode ordenar que provedores de pagamento, anunciantes e provedores de serviços de Internet parem de trabalhar com um site, banindo-os efetivamente, embora isso exija acordo dos tribunais.
Muitos países provavelmente estão esperando para ver o que o Ofcom fará com muitos políticos de outras nações ocidentais que também criticam X e Grok por causa dos deepfakes.
O regulador dos meios de comunicação da Irlanda disse que está a rever a questão, com o primeiro-ministro irlandês, Micheal Martin, a afirmar que tal utilização da IA era “inaceitável” e possivelmente ilegal.
O governo canadense também criticou o “abuso sexual deepfake”, mas descartou a proibição de X neste momento.
A Malásia e a Indonésia bloquearam Grok em 11 de Janeiro devido à sua capacidade de produzir imagens sexualmente explícitas de crianças.
