Os editores voluntários da Wikipédia recentemente proibiu o uso de grandes modelos de linguagem para gerar ou reescrever artigos. Relatório do Gartner que 53% dos consumidores dos EUA desconfiam dos resultados de pesquisa baseados em IA e 61% desejam desativar os resumos. Adicione os emblemas “Feito por Humanos” surgindo no Substack e um consenso parece estar se formando: as pessoas estão rejeitando o conteúdo de IA.
Entendo.
Em 2024, fundei TrueMedia.org para combater deepfakes políticos; como professor, penso muito sobre as possíveis desvantagens do conteúdo gerado por IA e rendição cognitiva (o hábito de deixar o modelo pensar por você). No entanto, a minha preocupação é com os resultados e o impacto a jusante, e não com o processo de entrada. Um deepfake prejudica porque engana; um parágrafo polido não fica manchado porque um modelo o restringiu.
Assim, o movimento anti-conteúdo de IA, tal como o movimento anti-OGM, está a perder o barco.
Em 2017, pesquisadores alertaram que a IA arriscava um “Reação ao estilo GM.” Eles tinham a analogia parcialmente certa. Eles apenas apostaram na metade errada. Prevejo o movimento anti-conteúdo de IA indo para onde foi o movimento anti-OGM: um ato de abertura barulhento, uma longa redução gradual e um final tranquilo em que o produto está em toda parte.
As lições de ‘Frankenfood’
Em 1992, um professor de inglês chamado Paul Lewis cunhou o termo “Comida Franken” em uma carta ao The New York Times. No final da década de 1990, o Greenpeace construiu toda uma campanha em torno da metáfora, o Príncipe Charles estava fazendo lobby com Tony Blair e a União Europeia impôs uma moratória de facto sobre aprovações de novos OGM que duraram de 1998 a 2004. Os compradores americanos foram informados de que estavam comendo monstruosidades. As lutas pela rotulagem em nível estadual duraram uma década.
Veja onde pousamos. Em 2025, a soja tolerante a herbicidas representava 96% dos acres de soja dos EUAacima dos 17% em 1997. O milho tolerante a herbicidas está em 92%. O algodão está em 93%. O Padrão Nacional de Divulgação de Alimentos de Bioengenharia finalmente entrou em vigor em janeiro de 2022, e Pesquisadores da Cornellanalisando dados do scanner Nielsen, descobriu que não produziu essencialmente nenhuma mudança comportamental. Um encolher de ombros coletivo. A rotulagem obrigatória, a exigência central do movimento activista durante duas décadas, revelou-se irrelevante quando chegou.
As atitudes europeias seguiram o mesmo arco, embora de forma mais lenta. Preocupação do Eurobarómetro com os OGM nos alimentos caiu de 63% em 2005 para 27% em 2019. A luta não terminou com vitória de nenhum dos lados. Acabou com as pessoas perdendo o interesse. Hoje, a maioria das pessoas nunca ouviu falar de Frankenfood.
Por que os OGM venceram o jogo longo? Três razões que se relacionam quase exatamente com o conteúdo gerado por IA.
Primeiro, o produto é indistinguível. Ninguém sabe dizer se o xarope de milho do refrigerante veio de uma espiga produzida pela bioengenharia e, depois de um tempo, eles param de se perguntar. A prosa escrita por IA já ultrapassou o limite de Turing para leitura casual. Muitos leitores não conseguem distinguir um rascunho de LLM competente de um rascunho humano competente.
Em segundo lugar, a economia é decisiva. As sementes OGM ofereciam rendimentos mais elevados e custos de produção mais baixos, pelo que os agricultores as adoptaram e as cadeias de mercearias estocaram os produtos resultantes. A produção de conteúdo gerado por IA é quase gratuita. A curva da oferta mudou tanto que a abstenção purista já não é uma opção de mercado; é um hobby.
Terceiro, a minoria preocupada é beneficiada pela rotulagem voluntária. O Projeto Não-OGM verifica mais de 50.000 produtos para consumidores que se importam. O rótulo federal obrigatório era redundante quando chegou. O equivalente da IA já está surgindo: Proveniência C2PAatestados “escritos por humanos”, marcas de verificação Substack. A minoria comprometida terá seus canais. Todos os outros não se preocuparão em verificar.
Soluções de mercado para danos reais
As culturas OGM foram polinizadas cruzadamente em campos vizinhos, quer o vizinho as quisesse ou não. O texto da IA poderia fazer o mesmo com os dados de treinamento do próximo modelo: a saída de hoje se torna a entrada de amanhã, sem o consentimento de ninguém e sem uma maneira clara de cancelar. Este é o colapso do modelo Cenário: a preocupação de que a oferta piore com o tempo, em vez de melhorar, à medida que o texto sintético exclui o corpus escrito por humanos.
O mercado já está resolvendo esse problema. Todos os grandes laboratórios estão agora pagando por conteúdo de autoria humana precisamente porque reconhecem o risco.
O pânico dos OGM também produziu a sua quota-parte de cenários catastróficos: um gene em fuga que escapa para a natureza, um novo agente patogénico criado por acidente, um colapso no abastecimento de alimentos. Nenhum deles aconteceu. Os mercados ajustaram-se, os reguladores aprenderam, foram plantados refúgios, a contaminação foi gerida.
Nem todas as preocupações foram exageradas. A consolidação do mercado de sementes tornou-se real, os litígios contra o Roundup continuam e o uso excessivo de herbicidas é um problema agronómico vivo. Nada disso foi alertado pela campanha Frankenfood.
O medo equivalente da IA é que o texto sintético sobrecarregue o corpus humano e que nos afoguemos num oceano de resíduos de IA. Pertence à mesma categoria: vívido, mecanicamente plausível à primeira vista e, em última análise, derrotado pelas mesmas forças enfadonhas. Os leitores valorizam o texto com curadoria. Os editores controlam seus arquivos. Surgem padrões de proveniência. O cenário civilizacional é a parte que não sobrevive ao contato com o mercado atual.
Nem todas as preocupações com a IA são exageradas. NewsGuard identificou mais de 3.000 sites de farm de conteúdo de IA divulgando notícias locais falsas e propaganda para obter receitas publicitárias, em 16 idiomas. Deepfakes enganam eleitores em eleições reais. O dano causado pela saída é real. O mesmo acontece com a solução: verificação e controle. As mesmas ferramentas que já usamos contra conteúdo impróprio de qualquer procedência.
A proibição da Wikipédia, sob esta luz, é um momento do Greenpeace e não um veredicto do mercado. É o sinal mais forte disponível do eleitorado que mais se preocupa, e é também o eleitorado menos representativo de como os outros 99% dos leitores se comportam. A enciclopédia já criou exceções, como acontece com todas as políticas absolutas da Internet. A tradução de Wikipédias em outros idiomas e a edição básica da prosa do próprio editor são permitidas pela política desde o primeiro dia. As lacunas aumentarão a partir daí: reescritas de acessibilidade, formatação de citações, estrutura de rascunhos para novos editores em idiomas carentes.
As preocupações são legítimas, mas também típicas das preocupações iniciais sobre muitas tecnologias poderosas. Daqui a cinco anos, a pergunta do Gartner provavelmente será diferente porque o produto será melhor e a novidade terá passado. A marca d’água será mais importante onde os riscos são altos (eleições, tribunais, divulgações financeiras) e terá menos importância na leitura cotidiana. A sujeira será filtrada, a boa escrita de IA se misturará e muitas das pessoas que disseram que nunca iriam ler o lerão sem pensar muito sobre isso.
Frankenfood tornou-se xarope de milho. Os aldeões abaixarão suas tochas quando as luzes permanecerem acesas.
