O gigante da inteligência artificial Anthropic e o governo dos EUA estão a descobrir que os seus interesses estão inextricavelmente ligados, ao mesmo tempo que discutem a melhor forma de equilibrar a inovação com as salvaguardas de segurança nacional.
Uma reunião na Casa Branca esta semana foi o capítulo mais recente na batalha da empresa sobre controlos de exportação sem precedentes. A restrição ao acesso de estrangeiros forçou-o a recordar o seu mais recente modelo de IA.
A disputa centra-se na questão de saber se o modelo pode ser utilizado por países estrangeiros para ajudar a conduzir ataques cibernéticos abrangentes contra os Estados Unidos – e destaca uma dinâmica cada vez mais complexa entre o governo e as empresas de IA. Os desenvolvedores querem minimizar as regulamentações que dizem impedir a inovação. O governo tem afirmado a necessidade de regular essa inovação, mas também de utilizá-la, inclusive cada vez mais em operações militares.
Por que escrevemos isso
Os rápidos avanços nos modelos de inteligência artificial levantam questões sobre a segurança nacional. Um exemplo: o confronto entre a desenvolvedora Anthropic e o governo federal está destacando a influência incomum que algumas empresas têm nas negociações sobre a regulamentação da tecnologia.
Em 12 de junho, a administração Trump proibiu cidadãos estrangeiros de usarem os dois produtos mais recentes da Anthropic: Mythos 5, que a empresa lançou apenas para organizações avaliadas, e Claude Fable 5, um modelo público semelhante ao Mythos, mas com salvaguardas extras. Para cumprir a ordem, a Anthropic diz que teve que desabilitar o acesso a ambos.
Agora, a empresa está tentando fazer com que o governo volte atrás. Altos representantes reuniram-se com a administração Trump em Washington na segunda-feira, mas nada mudou.
CNBC relatado que a Amazon alertou a administração sobre preocupações de segurança com Fable dias após o lançamento do modelo. A administração Trump, já preocupada com as capacidades cibernéticas da Mythos, rapidamente instruiu a Antrópica a suspender o acesso.
A Antthropic disse em comunicado público que o governo não especificou a preocupação, mas a empresa presume que tem a ver com a capacidade do usuário de contornar as proteções de segurança cibernética integradas ao modelo. A Antrópica afirma que esse problema é menor e já está presente em outros modelos públicos.
O conflito sobre a Mythos põe em evidência uma tensão nacional crescente sobre o papel que o governo deve assumir quando o produto de uma empresa privada pode afectar a segurança nacional. Está a desenrolar-se num cabo de guerra entre os criadores de IA e o governo federal, à medida que empresas como a Anthropic tentam aproveitar a sua experiência para exigir mais voz na forma como a tecnologia é regulamentada.
“A IA é uma tecnologia de uso geral que está a remodelar o mundo”, afirma Michael Horowitz, investigador sénior de tecnologia e inovação no Conselho de Relações Exteriores, num e-mail enviado ao Monitor. “Os laboratórios fronteiriços de IA nos Estados Unidos têm enorme poder e influência, mas o governo dos EUA também.”
Um novo “campo de jogo”
A IA poderia ser utilizada pelos militares para criar ou melhorar armas, por exemplo, ou para conduzir ataques cibernéticos. Especialistas em Washington já estão explorando cenários potenciais em que um país obtém vantagem em IA.
A administração Trump adotou em grande parte uma abordagem indiferente ao desenvolvimento da IA. Mas os riscos elevados estão a levá-lo a envolver-se mais. Após o lançamento parcial do Mythos pela Anthropic, o presidente Donald Trump assinou uma ordem executiva pedindo que as principais empresas de IA submetessem voluntariamente seus modelos de ponta para um período de 30 dias de revisão governamental.
As potenciais preocupações de segurança nacional estão a “dar uma enorme influência ao governo”, afirma James Pethokoukis, membro sénior do American Enterprise Institute.
Quando a Internet estava a ser desenvolvida, o governo adoptou uma abordagem bastante indiferente para incentivar a inovação. Muitos analistas de tecnologia defenderam essa abordagem em relação à IA. Mas Pethokoukis diz que devido à crescente relevância aparente da IA para a segurança nacional, “esse argumento está agora perdido”.
O “campo de jogo” atual, diz ele, não está entre uma abordagem prática e uma abordagem prática. Os avanços da IA significam que a questão agora é saber até que ponto – e não se – o governo deve intervir.
A velocidade e a magnitude do desenvolvimento da IA estão a transformar o que normalmente é uma abordagem burocrática e deliberativa à defesa nacional numa abordagem em que a administração começou a tomar medidas abrangentes muito rapidamente.
“Normalmente, o problema que temos com a ação governamental [on defense] é que é muito lento”, diz Emily Kilcrease, diretora do programa de Energia, Economia e Segurança do Centro para uma Nova Segurança Americana. “O que aconteceu na semana passada com a Antrópico foi interessante ver que o governo agiu muito rapidamente. … Eles não têm medo de agir rapidamente e fazer a limpeza mais tarde.”
Experiência única das empresas
Os criadores de IA, no entanto, podem utilizar a sua compreensão única da tecnologia em rápido desenvolvimento para pressionar o governo a colaborar com eles.
O governo quer impedir que países como a China acedam às capacidades cibernéticas da Mythos, mas quer a tecnologia disponível para poder melhorar a sua capacidade de impedir potenciais ataques – uma situação que Susan Ariel Aaronson, professora de assuntos internacionais na Universidade George Washington, chama de “catch-22”.
A Antrópica tem um relacionamento difícil com o governo federal. Além da actual disputa sobre a Mythos, o Pentágono declarou-a um risco para a cadeia de abastecimento em Março, quando a empresa se recusou a dar ao governo acesso ilimitado aos seus modelos de defesa.
Apesar das divergências, os dois lados continuam a colaborar. Depois que a Anthropic lançou o Mythos em março, o governo se reuniu com representantes da empresa para discutir as capacidades do modelo. A Anthropic também trabalhou em estreita colaboração com funcionários do governo para testar as salvaguardas antes de lançar o Fable 5 ao público em geral.
Empresas como a Anthropic têm muita vantagem porque muito poucas pessoas entendem como os modelos de fronteira mais recentes realmente funcionam, diz a Sra. Kilcrease. Ela estima que o número de engenheiros no mundo com uma compreensão sofisticada de como esses modelos de IA funcionam seja cerca de 200 – e observa que eles não estão trabalhando para o governo.
Mesmo os funcionários públicos com experiência em IA não têm forma de se manterem atualizados sobre o progresso ou as mudanças diárias destes modelos.
“[The developers] sempre serão aqueles que terão o conhecimento mais recente, atualizado e aprofundado sobre como a tecnologia funciona”, afirma ela.
