Durante o auge da Guerra Fria, uma lógica macabra fez com que os EUA e a União Soviética ficassem presos numa corrida armamentista, acabando por acumular armas nucleares suficientes para acabar muitas vezes com a civilização.
Ambos os lados gostariam de diminuir a escalada. Mas durante décadas, nenhum dos dois pôde confiar que o outro cumpriria qualquer tratado de redução de armas. Na década de 1980, porém, os cientistas desenvolveram sismógrafos, satélites e câmeras à prova de violação. Agora que cada lado podia monitorar o outro, o desarmamento se concretizou. Um provérbio russo, “confiar, mas verificar”, veio definir a abordagem que ajudou a pôr fim à Guerra Fria e a evitar o holocausto nuclear.
Hoje, o governo dos EUA começa a tratar a IA como uma potencial arma de destruição em massa. Os EUA e a China estão a correr para construir sistemas de IA que sejam suficientemente capazes para encontrar falhas de segurança no software mundial e alimentar novas armas autónomas devastadoras. Em 12 de junho, o governo dos EUA restringiu o acesso aos modelos Claude Mythos e Fable 5 da Anthropic, argumentando essencialmente que cada um deles era uma arma cibernética que não poderia cair em mãos estrangeiras.
O resultado é um impasse estratégico. Nem os EUA nem a China querem uma catástrofe, mas não há forma de confiar que a desaceleração faria outra coisa senão ceder a vitória ao outro. Com a corrida à IA a atingir um ponto de inflexão crítico na segurança cibernética, os líderes dos principais laboratórios de IA dos EUA indicaram que poderiam apoiar um abrandamento – se ao menos fosse possível alcançá-lo.
“Se fosse possível retardar efetivamente o desenvolvimento desta [AI] tecnologia para nos dar mais tempo para lidar com suas imensas implicações, achamos que isso provavelmente seria uma coisa boa”, escreveu a Anthropic em uma postagem no blog de junho. “Mas se uma desaceleração simplesmente permitir que os atores menos cautelosos se atualizem tecnologicamente, isso poderia deixar todos menos seguros.”
Também em junho, o CEO da OpenAI, Sam Altman, escreveu que o mundo precisa de uma nova organização global “para tornar possível que o mundo tome medidas coordenadas, incluindo a desaceleração das fronteiras. [AI] desenvolvimento quando necessário.”
Até o vice-presidente JD Vance articulou uma lógica semelhante. “Parte desta componente da corrida armamentista é que, se fizermos uma pausa, a República Popular da China não faz uma pausa? E então ficamos todos escravizados pela IA mediada pela RPC?”
Uma pausa, no entanto, só é vista como impossível porque ainda não existe tecnologia para verificar se todas as partes estão a cumpri-la. Os sismógrafos e satélites da era da IA, em outras palavras, ainda não existem. Mas e se eles fizessem isso?
Um grupo nascente de startups está a trabalhar na construção das chamadas ferramentas de “verificação” que poderão facilitar a contenção, dando a todas as partes a confiança que os seus rivais estão a cumprir. O número de pessoas que trabalham no desenvolvimento destas tecnologias hoje é minúsculo – apenas cerca de 50 em todo o mundo, de acordo com uma estimativa citada pela Lucid Computing, uma startup focada nestas ferramentas de verificação. No entanto, se o esforço tardio for bem sucedido, poderá abrir uma série de novas possibilidades na governação da IA.
Construindo ferramentas para verificar uma desaceleração
Tal como foi crucial para os sistemas de verificação da Guerra Fria não permitirem que nenhum dos lados roubasse os segredos nucleares do outro, uma parte crucial da verificação da IA consistirá em permitir a supervisão sem arriscar os segredos industriais das empresas de IA, dizem os proponentes.
O trabalho da Lucid Computing concentra-se em fazer exatamente isso – baseando-se nos chamados “ambientes de execução confiáveis” em chips de IA especializados, que empresas como Intel e Nvidia desenvolveram para permitir que os chips calculem informações de forma confidencial, mesmo protegidos dos proprietários do data center onde estão alojados.
A ideia é que um software especial possa ficar dentro desses ambientes confiáveis, onde possa examinar a IA e verificar se ela cumpre uma determinada regra. Por exemplo, poderia confirmar que um modelo específico está a ser executado ou determinar se chips estão a ser utilizados no treino de um novo modelo, o que pode ser proibido.
Crucialmente, a ideia é que este software transmita apenas um sinal de sim ou não fora do ambiente de execução confiável – não revelando mais nada sobre o que os chips estão fazendo a ninguém e, assim, protegendo os segredos da indústria e a privacidade do usuário.
Kristian Rönn, CEO da Lucid Computing, diz que esta abordagem foi concebida para evitar um futuro teorizado em 2019 pelo filósofo Nick Bostrom, que imaginou que os riscos da IA superpoderosa poderiam um dia incentivar os Estados a impor uma vigilância de estilo totalitário, a fim de evitar o fim do mundo.
“Eu odiaria se tivéssemos que escolher entre os extremos de uma pandemia global [designed by AI] nos matando, ou um estado totalitário monitorando cada movimento nosso”, diz Rönn. “Ambos os extremos parecem muito, muito ruins… O que estamos dizendo é que você pode, na verdade, através da criptografia, manter a privacidade e ter segurança ao mesmo tempo.”
Rönn diz que a Lucid está atualmente testando sua tecnologia e discutiu isso com muitas agências governamentais dos EUA e com as principais empresas de IA. Mas ele diz que ainda não está maduro o suficiente para ajudar a garantir qualquer tratado internacional.
Nenhum tratado desse tipo está atualmente em jogo – mas Rönn diz estar certo de que é apenas uma questão de tempo até que os Estados se juntem à mesa num esforço para regulamentar a IA, talvez quando os modelos de código aberto se aproximarem dos tipos de capacidades cibernéticas demonstradas por modelos como Claude Mythos.
“Queremos [verification technology] para existir, queremos que ele seja formado por atores do Estado-nação e pelos laboratórios, e esteja pronto para funcionar”, diz ele. “Não queremos chegar tarde demais. Chegar tarde demais aqui tem consequências no mundo real.”
Fazer com que a China confie na tecnologia de verificação desenvolvida no Ocidente, no entanto, pode ser difícil. Em 2025, Pequim repreendeu a Nvidia depois de legisladores dos EUA terem apelado a uma melhor aplicação dos controlos de exportação dos EUA, propondo medidas que poderiam rastrear a localização dos chips de IA e até mesmo desativá-los remotamente. (A Nvidia negou veementemente que essas capacidades existissem nos seus chips.) Se as tecnologias de verificação só forem desenvolvidas nos EUA, existe o risco de a China as ver como spyware, o que poderia torná-las essencialmente inúteis.
Verificar o quê, exatamente?
Do outro lado do Atlântico, uma empresa britânica de engenharia chamada Amodo Design está a adoptar uma abordagem diferente. Conhecido como recomputação, isto funciona reexecutando partes da carga de trabalho de IA de uma empresa e examinando os resultados – permitindo que um inspetor externo confirme se um data center está, por exemplo, executando um modelo de IA acordado, em vez de treinar silenciosamente um modelo mais poderoso.
Thomas Milton, cofundador da Amodo, alerta que nenhuma ferramenta de verificação é suficiente. A verificação, diz ele, é “mais uma escada do que uma solução única”: uma pilha de verificações que podem começar de forma grosseira e tornar-se mais rigorosas ao longo do tempo, tal como aconteceu durante a Guerra Fria.
Ambas as abordagens apresentam algumas limitações. Por exemplo, nem os métodos da Amodo nem da Lucid para examinar chips conhecidos puderam confirmar que um adversário não estava escondendo um data center secreto sob uma montanha em algum lugar.
“As corridas de treinamento são muito mais fáceis de esconder do que os silos de mísseis”, observou a Anthropic em junho.
Para contornar este problema, argumenta um artigo de investigadores do grupo de reflexão RAND, podem ser necessários pelo menos seis tipos diferentes de verificação. Além de sistemas de monitorização de software, estes poderiam incluir funcionalidades de segurança integradas em hardware de IA, monitorização das redes de Internet dos centros de dados, além de medidas mais tradicionais, como programas de proteção de denunciantes, entrevistas com pessoal e vigilância por agências de inteligência.
Tal como durante a Guerra Fria, uma ideia predominante é que um abrandamento da IA pode necessitar de uma abordagem de “confiança mas verificação” – o que significa que todas as partes agem de boa fé, ao mesmo tempo que utilizam múltiplos meios diferentes à sua disposição para confirmar que os seus adversários estão a fazer o mesmo.
É menos claro se a China apoiaria uma pausa, dado que está a tentar recuperar o atraso em relação às empresas de IA dos EUA. E, com certeza, muito do que se fala de uma pausa por parte das empresas americanas pode ser apenas uma arrogância – declarações fáceis para os líderes fazerem, sabendo que uma pausa é um fracasso político.
Mas há outro problema importante que torna as coisas ainda mais complicadas, diz Lennart Heim, especialista independente em políticas de IA e coautor do artigo da RAND.
O problema é que ninguém ainda concordou o que exatamente eles estão tentando verificar. Desacelerar a IA parece simples em teoria, mas é muito difícil especificar restrições que não deixem lacunas gritantes na prática. Existem diversas maneiras de medir as capacidades e comportamentos dos sistemas de IA. Estas medidas são frequentemente subjectivas e tornam-se rapidamente obsoletas.
Tudo isto significa que, até que as empresas ou países se concentrem numa mesa de negociações, as startups que tentam construir tecnologias de verificação apontam para alvos incertos.
Resolver a governação da IA pode, portanto, ser um problema político espinhoso, diz Heim, mais do que um problema técnico tratável.
As armas nucleares eram fáceis em comparação. O urânio pode ser utilizado para energia nuclear com baixo enriquecimento, mas as armas nucleares requerem maior pureza – pelo que os inspectores de armas podem simplesmente conceber testes para esse único factor.
“Esta é uma bela propriedade”, diz Heim. “IA não é isso. De forma alguma.”
