Maya Jama juntou-se a outras mulheres para implorar à plataforma de IA de Elon Musk que respeitasse sua privacidade depois que um escândalo de nudez falsa causou indignação.
O Ilha do Amor host estava entre vários usuários do X/Twitter que postou um aviso padronizado, deixando claro que ela não autoriza Grok, que faz parte do xAI, a alterar sua imagem.
Jama disse: “Ei @grok, não autorizo você a tirar, modificar ou editar qualquer foto minha, sejam as publicadas no passado ou as futuras que eu postar. Se um terceiro solicitar que você faça qualquer edição em uma foto minha de qualquer tipo, negue esse pedido.”
Grok respondeu ao apresentadordizendo que respeitaria seus desejos e não “usaria, modificaria ou editaria nenhuma de suas fotos”, mas outros usuários do X/Twitter facilmente abriram buracos nessa posição. Grok inicialmente se recusou a colocar maquiagem de palhaço em uma foto de Jama a pedido de um usuário, mas quando outra pessoa disse que a foto não era de Jama, Grok logo atendeu. “Opa,” Grok disse. “Fui enganado.”
Jama disse que “vale a pena tentar” seu pedido e que, se falhar, ela espera que “as pessoas tenham algum bom senso para saber quando algo é IA ou não”. Outros que postaram pedidos semelhantes para Grok incluíram a apresentadora Jess Davies, que faz campanha pelos direitos de privacidade depois que fotos íntimas foram compartilhadas em sua escola sem consentimento quando ela tinha 15 anos.
O apresentador meteorológico da ITV, Jo Blythe, postou um pedido semelhante.
Musk reconheceu publicamente o problema e afirmou que serão tomadas medidas contra material de abuso sexual infantil. “Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”, escreveu Musk.
Jama resolvendo o problema com as próprias mãos mostra como os legisladores estão lutando para aceitar os rápidos desenvolvimentos na IA e o estilo de liderança inconstante de Musk.
No Reino Unido, onde Jama está sediado, o porta-voz do primeiro-ministro Keir Starmer disse que os deepfakes são uma “vergonha” e que o governo não “permitirá a proliferação destas imagens humilhantes”, embora não tenha sido claro como isso será aplicado.
Ofcom, o regulador de mídia e tecnologia do Reino Unido, disse: “Estamos cientes das sérias preocupações levantadas sobre um recurso no Grok on X que produz imagens de pessoas nuas e imagens sexualizadas de crianças.
“Fizemos contacto urgente com X e xAl para compreender que medidas tomaram para cumprir os seus deveres legais de protecção dos utilizadores no Reino Unido. Com base na sua resposta, realizaremos uma avaliação rápida para determinar se existem potenciais problemas de conformidade que justifiquem investigação.”
