Uma nova ação coletiva, protocolado na segunda-feira por três adolescentes e seus responsáveis, alega que a xAI de Elon Musk criou e distribuiu material de abuso sexual infantil apresentando seus rostos e imagens com sua tecnologia Grok AI.
“Suas vidas foram destruídas pela perda devastadora de privacidade, dignidade e segurança pessoal que a produção e disseminação deste CSAM causou”, diz o documento. “O ganho financeiro da xAI através do aumento do uso de seu produto de criação de imagens e vídeos ocorreu às suas custas e bem-estar.”
De dezembro ao início de janeiro, Grok permitiu que muitos usuários de mídia social AI e X criassem imagens íntimas não consensuais geradas por IA, às vezes conhecidas como pornografia deepfake. Estimativa de relatórios que os usuários do Grok criaram 4,4 milhões de imagens “despidas” ou “nudificadas”, 41% do número total de imagens criadas, em um período de nove dias.
X, xAI e suas divisões de segurança e segurança infantil não responderam imediatamente a um pedido de comentário.
A onda de imagens “despidas” provocou indignação em todo o mundo. A Comissão Europeia lançou rapidamente uma investigação, enquanto a Malásia e a Indonésia proibiram o X dentro das suas fronteiras. Alguns representantes do governo dos EUA pediram à Apple e ao Google que removessem o aplicativo de suas lojas de aplicativos por violar suas políticas, mas nenhuma investigação federal sobre X ou xAI foi aberta. Uma ação coletiva semelhante e separada foi arquivado (PDF) por uma mulher da Carolina do Sul no final de janeiro.
A tendência desumanizante destacou o quão capazes as ferramentas modernas de imagem de IA são na criação de conteúdo que parece realista. A nova denúncia compara a autoproclamada geração de “IA picante” de Grok às “artes das trevas”, com sua facilidade de submeter as crianças a “qualquer pose, por mais doentia, por mais fetichizada, por mais ilegal”.
“Para o espectador, o vídeo resultante parece inteiramente real. Para a criança, suas características de identificação serão agora anexadas para sempre a um vídeo que retrata o abuso sexual de seu próprio filho”, diz a denúncia.
A reclamação diz que a culpa é da xAI porque não empregou proteções padrão da indústria que impediriam os abusadores de criar esse conteúdo. Diz que a xAI licenciou o uso de sua tecnologia para empresas terceirizadas no exterior, que venderam assinaturas que levaram os abusadores a criar imagens de abuso sexual infantil com os rostos e imagens das vítimas. As solicitações passaram pelos servidores da xAI, o que responsabiliza a empresa, argumenta a denúncia.
A ação foi movida por três Jane Does, pseudônimos dados aos adolescentes para proteger suas identidades. Jane Doe 1 foi alertada pela primeira vez sobre o fato de que material sexual abusivo gerado por IA dela estava circulando na web por uma mensagem anônima do Instagram no início de dezembro. O processo diz que ela foi informada sobre um servidor Discord pelo usuário anônimo do Instagram, onde o material foi compartilhado. Isso levou Jane Doe 1 e sua família, e eventualmente as autoridades, a encontrar e prender um perpetrador.
Investigações em andamento levaram as famílias de Jane Does 2 e 3 a descobrirem que as imagens de seus filhos foram transformadas com tecnologia xAI em material abusivo.
