A Anthropic desativou seus dois modelos de inteligência artificial mais poderosos na sexta-feira para cumprir uma ordem do governo dos Estados Unidos que bloqueia seu uso por qualquer cidadão estrangeiro.
De acordo com a Anthropic, a administração Trump citou preocupações de segurança nacional quando emitiu uma diretiva de controle de exportação na sexta-feira que pedia a suspensão de todo o acesso aos seus modelos Fable 5 e Mythos 5 por qualquer cidadão estrangeiro, incluindo os próprios funcionários da Anthropic.
A empresa disse em um declaração que teve que “desabilitar abruptamente” o acesso aos modelos para que todos os clientes cumprissem o pedido. Os usuários relataram não conseguir acessar os modelos no sábado.
“Pedimos desculpas aos nossos clientes por esta interrupção. Acreditamos que isso seja um mal-entendido e estamos trabalhando para restaurar o acesso o mais rápido possível”, disse o comunicado.
Leia mais: A empresa mais disruptiva do mundo
O governo dos EUA utilizou controlos de exportação no passado para restringir a venda de chips semicondutores que alimentam modelos de IA, mas nunca nos próprios modelos. A ordem marca uma escalada significativa nos seus esforços para impedir que adversários estrangeiros utilizem tecnologia de IA fabricada nos Estados Unidos e mostra que vê cada vez mais os modelos como um activo de segurança nacional.
Também surge no meio de uma disputa entre a Anthropic e a administração Trump, que começou quando a empresa se recusou a permitir que os militares dos EUA utilizassem os seus modelos de IA para sistemas de armas totalmente autónomos. O Pentágono colocou a Antthropic em uma posição lista negra como resultado, considerando-o muito perigoso para uso governamental. Com estes controlos de exportação, agora também foi considerado demasiado perigoso para uso estrangeiro.
A Anthropic disse ter recebido uma notificação na sexta-feira de que o governo tomou conhecimento de um método de “jailbreak” do Fable 5. Em sua declaração, a Anthropic disse que recebeu apenas uma notificação verbal de um “potencial jailbreak estreito e não universal” do governo e discordou que deveria ser motivo para um recall.
O Wall Street Jornal informou que o secretário de Comércio, Howard Lutnick, enviou uma carta ao presidente-executivo da Anthropic, Dario Amodei, notificando a empresa sobre as restrições.
O momento do anúncio pode ser prejudicial para a Anthropic, antecipando uma esperada oferta pública inicial na rival de IA dos EUA, a SpaceX, que lançou seu próprio IPO na sexta-feira, um desenvolvimento que a tornou a sexta empresa pública mais valiosa nos EUA, com valor de mercado de US$ 2,1 trilhões. A OpenAI também está considerando uma mudança semelhante.
A Diretora de Informação do Pentágono, Kirsten Davies, disse em uma postagem no X que o Departamento de Defesa estava “priorizando a segurança nacional e a segurança de nossos combatentes”.
“Algumas coisas são simplesmente mais importantes do que os ciclos de receita, a isca de cliques e a avaliação pré-IPO. A América em primeiro lugar. Sempre”, ela escreveu.
Nem o Pentágono nem o Departamento de Comércio, que supostamente emitiu a ordem, responderam a um pedido de comentários da TIME.
Por que o governo está preocupado com esses modelos de IA?
A Anthropic lançou seu mais recente modelo de IA, Claude Fable 5, no início desta semana, alegando que representa um novo nível de capacidade que chama de “classe Mythos” – o nome que deu ao nível acima de seus modelos anteriores da classe Opus.
A empresa afirmou no lançamento que as capacidades do modelo “excedem as de qualquer modelo que já disponibilizamos”. O modelo foi particularmente eficaz na identificação de vulnerabilidades de software.
Especialistas alertaram que as capacidades do modelo representavam o risco de serem usadas em ataques cibernéticos. A Antthropic reconheceu em seu comunicado de lançamento em 9 de junho que “[r]abandonar um modelo tão capaz traz riscos”, e disse que introduziu salvaguardas que bloqueariam seu uso para alguns tópicos.
“Sem salvaguardas, as capacidades do Fable 5 em áreas como a segurança cibernética poderiam ser mal utilizadas para causar sérios danos”, afirmou no comunicado. declaração.
Mas o governo dos EUA parece estar alegando que existe um “jailbreak” que permite aos usuários contornar essas salvaguardas.
Anton Leicht, bolseiro do Programa de Tecnologia e Assuntos Internacionais do Carnegie Endowment for International Peace, onde investiga a economia política da inteligência artificial, diz à TIME que o impacto imediato do encerramento pode ser ofuscado pelo que revela sobre as capacidades da IA dos EUA.
“Isso mostra como a maioria dos outros países se tornou irrelevante para a política de IA. Parece que nem o acesso a mercados estrangeiros nem quaisquer opções de retaliação detidas por qualquer outro país foram levados em conta na decisão da administração”, diz ele. “Os EUA já estão tão à frente na corrida da IA que podem dar-se ao luxo de deixar outros países para trás como uma reflexão tardia de uma decisão interna.”
Leicht descreveu a medida do governo dos EUA como um “instrumento impreciso” para lidar com a potencial existência de uma fuga da prisão.
No entanto, a decisão suscitou debate noutros países sobre a chamada soberania da IA – a capacidade de uma nação controlar a sua própria tecnologia de inteligência artificial – depois de mostrar quão facilmente pode ser isolada dos modelos mais avançados do mundo.
O legislador britânico Kanishka Narayan, ministro da IA e Segurança Online, disse que a proibição deveria estimular um investimento mais profundo na indústria de IA do seu próprio país.
“A principal lição: à medida que debatemos o futuro da segurança nacional e da soberania tecnológica, o acesso às capacidades de IA é crucial”, disse ele. escreveu no X em resposta ao movimento.
Mas Leicht diz que o debate sobre a soberania da IA ignora o ponto mais amplo.
“Os decisores políticos destes países tomarão nota e tentarão reagir; falarão sobre soberania e sobre o afastamento dos seus países da IA estrangeira. Mas isso é tão improvável hoje como era ontem”, diz ele.
“Apenas os EUA constroem modelos de fronteira, e os EUA controlam quase todos os chips necessários para treiná-los”, diz Leicht. “Mesmo um megaprojeto que, na melhor das hipóteses, alcance a fronteira pode levar mais de dois anos para chegar lá, então simplesmente não há um ‘acordar’ de curto prazo.”
