Há cerca de um ano, o presidente Trump sancionou a Lei Take It Down (TIDA), uma lei federal inédita que visa conter a proliferação de fotos e vídeos íntimos não consensuais online.
Agora, a partir de terça-feira, a Comissão Federal de Comércio finalmente começará a aplicar uma de suas principais disposições, a Seção 3.
Quando foi promulgada como lei, a TIDA permitiu o processo de qualquer pessoa que distribuísse conscientemente deepfakes ou imagens íntimas de qualquer menor ou adulto sem consentimento. No mês passado, um homem de 37 anos de Columbus, Ohio, tornou-se “a primeira pessoa nos Estados Unidos a ser condenada ao abrigo da Lei Take It Down”, no palavras do Procurador dos EUA Dominick S. Gerace II. O perpetrador utilizou mais de 120 plataformas e modelos de IA para criar e distribuir imagens sexuais de menores e mulheres adultas sem consentimento em várias plataformas digitais.
Embora a lei já esteja em vigor há um ano, a FTC deu aos operadores de plataformas digitais até 19 de maio de 2026, para cumprirem a Seção 3, que responsabiliza parcialmente as plataformas pela distribuição de tais imagens. Esse prazo já chegou.
Especificamente, a Seção 3 da Lei exige que as plataformas digitais estabeleçam um processo claro e fácil para que as vítimas de imagens íntimas não consensuais solicitem a remoção de fotos ou vídeos e quaisquer cópias idênticas no prazo de 48 horas. As vítimas não serão obrigadas a encontrar e relatar elas mesmas cada cópia idêntica. A FTC também exige que os operadores da plataforma disponibilizem o processo de denúncia para todos, independentemente de a vítima ter ou não uma conta na plataforma. Uma vez apresentado um pedido, as vítimas devem receber um número de identificação para rastrear o seu pedido, que também podem fornecer às autoridades policiais.
“A FTC aplicará vigorosamente a TIDA”, escreveu o presidente da FTC, Andrew Ferguson, em um carta enviado a mais de uma dúzia de empresas de tecnologia no início deste mês, ameaçando possíveis penalidades civis de US$ 53.088 por violação. Os destinatários dessa carta incluíam Amazon, Apple, Alphabet, Bumble, Match Group, Discord, Meta, Microsoft, Reddit, TikTok e X, que esteve envolvida em polêmica nos últimos meses devido à disseminação desenfreada de deepfakes não consensuais na plataforma.
Isso realmente fará diferença?
Há anos que as vítimas de abuso sexual online defendem uma regulamentação mais rigorosa, mesmo antes de os avanços radicais na geração de imagens e vídeos por IA agravarem o problema. O TIDA é um passo bem-vindo nessa direcção, mas os seus críticos receiam que não seja uma solução eficaz.
Um dos motivos é que, desde que a lei se tornou lei, há um ano, os deepfakes sexuais não consensuais não foram a lugar nenhum, tornando-se até mais modernos em algumas plataformas. O chatbot Grok de Elon Musk tornou-se o notório garoto-propaganda desta epidemia online.
No final do ano passado, os usuários do X iniciaram uma tendência perturbadora em que usaram o Grok para gerar fotos não consensuais sem roupa ou sexualizadas, muitas vezes de mulheres e crianças. Musk se envolveu com a tendência, republicando fotos de torradeiras sexualizadas em seu próprio perfil X antes de aparentemente tentar ganhar dinheiro com o recurso recém-popular. Embora a TIDA ainda não pudesse responsabilizar Musk e a sua empresa por estas fotos, a xAI teve problemas consideráveis no estrangeiro, onde tais regulamentações já existiam.
Mesmo depois de a Seção 3 ser aplicada, o projeto de lei pode não ser o mais eficaz para conter o impacto negativo dos deepfakes sexuais.
“A realidade, porém, é que isso significa que o fardo de identificar, documentar e denunciar conteúdo prejudicial gerado por IA ainda recai sobre as próprias vítimas”, disse Kaylee Williams, candidata ao doutorado da Universidade de Columbia, ao Gizmodo. “A pesquisa mostra que o processo de denúncia pode expor as vítimas a traumas imensos, além das consequências adversas que provavelmente enfrentarão como resultado do abuso inicial.”
Williams também não tem certeza se as principais empresas de mídia social “farão um esforço de boa fé para cumprir as novas regras”.
“No final das contas, a questão é se essas multas proporcionarão incentivos suficientes para que as empresas construam infra-estruturas digitais para fazer uma diferença significativa para as vítimas, ou simplesmente absorverão os custos do incumprimento, como muitas fizeram no passado”, disse Williams. “O conteúdo abusivo é agora mais fácil de produzir e distribuir do que nunca, pelo que policiar estes danos em grande escala será dispendioso e trabalhoso, tanto para as plataformas como para a FTC.”
As penalidades da TIDA são altas, considerando que ocorre por violação, mas são consideravelmente menos severas do que as impostas por uma lei de segurança online semelhante promulgada no Reino Unido, onde as empresas podem ser multadas em até 10% de sua receita mundial qualificada. Para uma empresa como metapor exemplo, que poderia valer milhões de dólares.
Outros críticos estão preocupados que a lei represente uma ameaça significativa à privacidade online.
“A Lei Take It Down dá aos poderosos uma nova rota perigosa para manipular plataformas para remover discursos legais que eles simplesmente não gostam”, disse India McKinney, diretor de assuntos federais da Electronic Frontier Foundation, sem fins lucrativos de direitos digitais, ao Gizmodo. “Os legisladores deveriam ter-se concentrado em reforçar e fazer cumprir as proteções legais existentes para as vítimas, em vez de inventar novos regimes de derrubada que estejam prontos para abusos.”
A preocupação é que, devido ao prazo de 48 horas, as plataformas digitais possam optar por confiar apenas no relatório para decidir retirar determinadas postagens. Os maus atores poderiam abusar disso como uma brecha para remover qualquer coisa que não queiram ver na internet, incluindo postagens de críticos do governo.
“O próprio presidente Trump disse que usaria a lei para censurar os seus críticos, e esse é exactamente o tipo de abuso que o público deveria temer”, disse McKinney.
Quando o projeto de lei tinha acabado de ser aprovado no Senado e ainda aguardava votação na Câmara em março de 2025, Trump contado uma sessão conjunta do Congresso que ele aguardava ansiosamente.
“Vou usar essa conta para mim também, se você não se importa, porque ninguém é tratado pior do que eu online, ninguém”, disse Trump.
