Uma vítima de Jeffrey Epstein entrou com uma ação coletiva na quinta-feira contra o Google, dizendo que o recurso AI Mode da empresa publicava informações pessoais sobre as vítimas do traficante sexual.
Em resposta a ação legislativao Departamento de Justiça começou a divulgar mais de 3 milhões de páginas de evidências em seu caso contra Epstein em lotes do final do ano passado até o início deste ano. Mas a implementação foi considerada problemática, com nomes de alguns predadores redigido enquanto as identidades de vários sobreviventes foram divulgadas em redações impróprias.
“Os Estados Unidos, agindo através do DOJ, fizeram uma escolha política deliberada para priorizar a divulgação rápida e em grande volume em detrimento da proteção da privacidade dos sobreviventes de Epstein”, de acordo com o ação judicial arquivado no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia. O processo alega que os sobreviventes não só tiveram que reviver o seu trauma, mas também foram vítimas de assédio desde que as suas informações foram tornadas públicas.
Embora o DOJ tenha removido posteriormente os erros, as informações foram mantidas online pela função de pesquisa de IA do Google, AI Mode, afirma o demandante.
“Mesmo depois de o governo ter reconhecido que a divulgação violava os direitos dos sobreviventes e retirado a informação, entidades online como o Google republicam-na continuamente, recusando os apelos da vítima para a retirar”, diz o processo.
Ao pesquisar o nome da demandante, que atende por “Jane Doe”, bem como os nomes de outras vítimas que ela representa neste processo, o AI Mode do Google exibiu seu “nome completo, informações de contato, cidades de residência e associação com Jeffrey Epstein”, alega o processo. No caso do demandante, a IA também “gerou um link de hipertexto que permite a qualquer pessoa enviar e-mail direto ao Requerente com o clique de um botão”.
O processo alega que a vítima notificou o Google sobre o problema em várias ocasiões nos últimos dois meses, sem sucesso.
“Apesar de receber notificação real das violações, dos danos substanciais causados por sua disseminação contínua e do status de muitos membros da classe como sobreviventes de abuso sexual com direito a maiores proteções de privacidade sob a lei, o Google falhou e se recusa a remover, desindexar ou bloquear o acesso aos materiais ofensivos”, afirma o processo. “Notavelmente, várias outras ferramentas de IA disponíveis publicamente que geram conteúdo através da análise de fontes online, como ChatGPT, Claude e Perplexity, não forneceram qualquer informação relacionada às vítimas em testes repetidos semelhantes.”
Ao contrário da pesquisa do Google, o modo IA “não é um índice de pesquisa neutro; é um recomendador ativo e gerador de conteúdo”, argumenta o processo, e poderia ser alegado como “doxxing acionável”.
O processo surge no final de uma semana em que a responsabilidade legal dos gigantes da tecnologia pelo conteúdo online foi testada. Meta e Google foram considerados responsáveis em um julgamento de dependência de mídia social em Los Angeles na quarta-feira, e Meta foi considerado responsável em um julgamento de segurança infantil online no Novo México na terça-feira.
Ambos os processos foram considerados marcos que podem se transformar em momentos decisivos na forma como a liberdade de expressão online é regulamentada nos Estados Unidos. Atualmente, ao abrigo da Secção 230 da Lei de Decência nas Comunicações, os grandes gigantes da tecnologia como o Google, que operam estas plataformas online, estão isentos de qualquer responsabilidade pelo conteúdo publicado por terceiros. Com as decisões desta semana contra Meta e Google, a proteção que os gigantes da tecnologia recebem da Seção 230 é agora seriamente desafiada.
A aplicabilidade da Seção 230 à IA tem sido um tópico de contenção. O senador Ron Wyden, que ajudou a redigir a lei, disse ao Gizmodo em janeiro que os chatbots de IA não são protegidos por ela.
O Departamento de Justiça e o Google não responderam imediatamente ao pedido de comentários do Gizmodo.
