A secretária de tecnologia do Reino Unido, Liz Kendall, divulgou um comunicado pedindo a Elon Musk que impeça Grok, a ferramenta de inteligência artificial integrada no X, de ser usada para criar imagens sexualizadas falsas e não consensuais de mulheres.
Nas últimas semanas, vários meios de comunicação descobriram reclamações de usuários X que foram vítimas de deepfakes Grok. Muitos dos casos incluem casos em que Grok criou imagens sexualizadas de crianças e mulheres.
Uma foto de um garoto de 14 anos Coisas estranhas a atriz Nell Fisher foi manipulada por Grok para colocá-la em um biquíni com estampa de banana, segundo O Guardião. Os problemas em torno do Grok começaram no final de dezembro, depois que a ferramenta de IA recebeu uma atualização que permitia aos usuários postar fotos e solicitar edições geradas por IA.
Na segunda-feira, o regulador britânico Ofcom disse que fez “contato urgente” com o X de Musk e estava investigando preocupações de que Grok estivesse produzindo “imagens nuas” de pessoas. Na semana passada, a plataforma emitiu um alerta aos usuários, orientando-os a não usarem o Grok para gerar conteúdo ilegal, incluindo material de abuso sexual infantil.
Kendall disse que as imagens feitas com Grok no X eram “absolutamente terríveis” e pediu à plataforma de mídia social que agisse rapidamente.
“Ninguém deveria passar pela provação de ver deepfakes íntimos de si mesmo online”, disse Kendall. “Não podemos e não permitiremos a proliferação destas imagens humilhantes e degradantes, que são desproporcionalmente dirigidas a mulheres e raparigas.”
Ela acrescentou: “X precisa lidar com isso com urgência”.
