No início deste ano, um bando de malucos no Twitter descobriram que poderiam levar Grok, o chatbot “não acordado” do xAI de Elon Musk, a gerar imagens sexualizadas de pessoas no X, mesmo sem o seu consentimento. Três meses depois, X fez algo a respeito… mais ou menos. De acordo com um relatório da mídia social hojea plataforma social adicionou discretamente um novo recurso ao seu aplicativo iOS que permite às pessoas optar por “bloquear modificações por Grok” ao enviar conteúdo.
De acordo com o relatórioos usuários deverão começar a ver uma alternância ao enviar imagens ou vídeos para incluir em uma postagem. Quando essa alternância estiver habilitada, impedirá que Grok modifique o material. É um recurso útil em teoria, visto que as respostas de cada postagem naquela plataforma esquecida por Deus agora incluem alguns sacos tristes marcando Grok para fazer algo por eles, incluindo ajustar as fotos das pessoas.
O problema, porém, de acordo com The Verge, é que o recurso tem um caso de uso incrivelmente restrito. Especificamente, a publicação disse que o botão de alternância pode “impedir que @Grok modifique este conteúdo”. Isso significa que apenas impede que as pessoas marquem Grok em um tópico para modificar imagens. Isso não impede que as pessoas editem a imagem no aplicativo Grok. Na verdade, eles nem precisam baixar a imagem original para fazer isso. De acordo com o The Verge, os usuários do X podem manter pressionada uma imagem no aplicativo X e selecionar a opção “Editar imagem com Grok”, e a imagem será aberta no aplicativo Grok, onde pode ser modificada livremente. Os usuários também podem salvar a imagem original, carregá-la novamente em uma postagem X e marcar Grok para alterá-la.
Então, basicamente, o X eliminou o fruto mais difícil – e o fez de forma limitada, visto que o recurso está disponível apenas no iOS e até agora não está disponível para todos e não é particularmente fácil de encontrar. Atualmente, ele está oculto no menu que é aberto ao tocar no símbolo do pincel no X ao enviar conteúdo. Qualquer que seja o mínimo, parece que X mal o excedeu.
Parece improvável que esta “protecção” satisfaça as dezenas de autoridades reguladoras que lançaram investigações sobre X e Grok após o desastre que viu os utilizadores do X utilizarem a ferramenta generativa de IA para criar imagens nuas e sexualmente explícitas de pessoas – incluindo menores – sem consentimento. A empresa anteriormente bloqueou recursos de edição de imagens atrás de um acesso pago, o que pode ter evitado alguns problemas e apenas monetizado as perversões e atos de abuso sexual virtual das pessoas. Isso, combinado com esse novo esforço do recurso oculto que só meio que funciona, deve dizer a todos o quão séria a plataforma leva para resolver o problema.
