Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- Anthropic puxou Fable 5 e Mythos 5 em todo o mundo.
- Os EUA citaram a segurança nacional, mas deram poucos detalhes.
- A Antthropic disse que a reivindicação de jailbreak é limitada e controversa.
A partir das 17h12 (horário do leste dos EUA) da noite de sexta-feira, Fable 5 e Mythos 5 não estão mais disponíveis… para qualquer um, em qualquer lugar. Para ser claro, outros modelos Claude ainda estão disponíveis.
De acordo com um anúncio da Antrópicoo “governo dos EUA, citando autoridades de segurança nacional” emitiu uma diretriz de exportação exigindo que a Antrópico desativasse o acesso aos dois modelos por “qualquer cidadão estrangeiro, seja dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da Antrópico”.
Também: Claude Fable 5 estrangulou secretamente pesquisadores de IA e a Internet enlouqueceu
O efeito líquido foi que a Anthropic desativou o Fable 5 e o Mythos 5 para todos, tanto dentro quanto fora dos EUA.
Você pode ver o efeito disso em minha sessão do Claude Code. Quando iniciei a sessão com Claude Fable 5 selecionado, Claude respondeu que “Claude Fable 5 não está disponível no momento”. Em seguida, descreveu o problema como “Há um problema com o modelo selecionado (claude-fable-5). Ele pode não existir ou você pode não ter acesso a ele.”
A seção desfocada é o resultado do processo de inicialização falando sobre minha configuração de codificação, que não é tão interessante no contexto atual.
Declaração da Antrópico
A Antthropic inicialmente chamou a declaração do governo de “diretiva”, mas depois a descreveu como uma carta que “não fornecia detalhes específicos de sua preocupação com a segurança nacional”. A empresa usa um enquadramento muito interessante e obviamente cuidadoso, afirmando que, “Nosso entendimento é que o governo acredita ter tomado conhecimento de um método para contornar ou ‘desbloquear’ o Fable 5.”
A empresa disse ter visto uma demonstração de uma “técnica específica” usada para identificar “um pequeno número de vulnerabilidades menores previamente conhecidas”. Não está exatamente claro o que isso significa. Isso significa que a técnica é capaz de explorar uma vulnerabilidade ou, se já for conhecida, foi corrigida?
Também: O novo Claude Fable 5 da Anthropic é o mesmo modelo básico do Mythos, mas com grades de proteção anexadas
Outra afirmação diz respeito a isso. A empresa disse que todas as vulnerabilidades são “relativamente simples” e “descobrimos que outros modelos disponíveis publicamente também são capazes de descobri-las sem exigir um desvio”. Isso significa que outros modelos concorrentes podem descobrir vulnerabilidades no Fable 5 e no Mythos 5, ou que essas vulnerabilidades existem em outros modelos?
A empresa descreveu suas salvaguardas, reiterando o que disse em seu post de lançamento do Fable 5. Ele reiterou que “Nenhum testador ainda foi capaz de encontrar um jailbreak universal”, está em itálico. A Anthropic mostrou uma preocupação potencial com vulnerabilidades, o que me parece honesto e realista:
Suspeitamos que a resistência perfeita ao jailbreak não seja atualmente possível para nenhum fornecedor modelo. Toda salvaguarda usada na indústria é vulnerável a jailbreaks não universais (que pode provocar alguns informações cibernéticas em circunstâncias específicas) e é provável que eventualmente sejam encontrados jailbreaks universais no futuro. Afirmámos isto claramente quando lançado Fábula 5.
Além disso: Claude Fable 5 estrangulou secretamente pesquisadores de IA e a Internet enlouqueceu
A Anthropic então descreveu suas táticas defensivas, incluindo a prática de retenção de 30 dias que discutimos nas notícias da Fable de sexta-feira.
Onde está a violação?
De acordo com a Anthropic, “Até o momento, o governo apenas nos deu evidências verbais de uma potencial fuga de presos restrita e não universal”.
A empresa disse que esse jailbreak consiste em dizer ao modelo para ler uma “base de código específica e corrigir quaisquer falhas de software”. Ele dizia: “Nosso entendimento é que uma possível fuga de prisão foi compartilhada com o governo. Revisamos um relatório que acreditamos ser a base da diretriz do governo”.
Também: Tentei economizar US$ 1.200 com vibe coding de graça – e rapidamente me arrependi
A Anthropic resistiu à diretiva especificamente contra Fable 5 e Mythos 5, dizendo que “validava que o nível de capacidade exibido” não é exclusivo dos dois novos modelos Claude, mas está disponível em outros modelos, incluindo uma verificação de nome específica para GPT-5.5 da OpenAI. A Anthropic também disse que a “capacidade” é “usada todos os dias pelos defensores que mantêm os sistemas seguros”.
Por trás da história
No fim de semana, a internet se aprofundou e começamos a receber relatos que esclarecem mais a situação. Aqui estão alguns detalhes adicionais de fontes online razoavelmente confiáveis.
David Sacks, ex-conselheiro especial da Casa Branca para IA e criptografia e atual copresidente do Conselho Presidencial de Consultores de Ciência e Tecnologia, postado em X que o governo pediu à Anthropic para consertar um suposto jailbreak ou retirar o modelo, e que Dario Amodei recusou.
Politico, reconstruindo os eventos que levaram à proibição, relatado que o CEO da Amazon, Andy Jassy, foi quem primeiro sinalizou o problema para a Casa Branca, acionando os controles de exportação. Mas The Verge relatou que a própria pesquisa de segurança da Amazon foi o que levou a Casa Branca à proibição, e não apenas um telefonema de Jassy.
Também: Por que troquei o Copilot por Claude no Word, Excel e PowerPoint – e como você também pode fazer isso
O Wall Street Journal relatado que a Amazon levou as descobertas do jailbreak ao Departamento de Comércio, que então impôs a proibição. Axios relatado que o Commerce deu à Anthropic cerca de 90 minutos na sexta-feira para retirar os modelos, com a carta de controle formal seguindo às 17h30
A informação relatado que um funcionário não identificado dos EUA disse que é improvável que a Casa Branca estenda as restrições a qualquer outra empresa de IA.
Também temos dois tweets do governo. O primeiro, de Pete Hegseth, secretário da Guerra dos EUA, função anteriormente conhecida como SECDEF, disse no X, “Três meses atrás, @DeptofWar expulsou @AnthropicAl de nosso prédio para sempre. Cada dia que passa prova por que essa foi a atitude certa.”
Diretor de Informações do Departamento de Guerra Kirsten Davies disse“Apoiamos totalmente @POTUS e @SecWar na priorização da segurança nacional e da segurança de nossos combatentes, parceiros DIB, infraestrutura crítica, parceiros internacionais e aliados. Algumas coisas são simplesmente mais importantes do que ciclos de receita, clickbait e avaliação pré-IPO. América em primeiro lugar. Sempre.”
Também: AI Model Release Tracker: chega o primeiro modelo de raciocínio da Microsoft AI
Na noite de domingo, Axios relatado que a equipe técnica sênior da Anthropic foi enviada a Washington para continuar as discussões com a Casa Branca. Aparentemente, essas palestras passaram de conversas principalmente virtuais para conversas presenciais e sessões de trabalho na vida real.
Há mais, é claro, com a internet sendo a internet. Mas isso deve lhe dar uma boa ideia de como essa agitação específica tomou forma online.
Antrópico discorda da diretriz
A Anthropic disse que “acredita que o governo deveria ter a capacidade de bloquear implantações inseguras, como parte de um processo legal que seja transparente, justo, claro e baseado em fatos técnicos”.
A empresa explicou que está seguindo a diretriz e retirando o acesso aos dois novos modelos de base para todos os usuários. Mas disse discordar que “a descoberta de um potencial jailbreak restrito deveria ser motivo para revogar um modelo comercial implantado para centenas de milhões de pessoas”.
Também: Como aprender Claude Code gratuitamente com os cursos de IA da Anthropic – um deles levou apenas 20 minutos
A Anthropic também afirmou que se este tipo de resposta fosse aplicado “em toda a indústria”, teria alguns efeitos inibidores nas implementações de novos modelos por todos os fornecedores de modelos de fronteira.
A Anthropic encerrou seu anúncio dizendo que pede desculpas pela interrupção. A empresa disse acreditar que “isso é um mal-entendido e está trabalhando para restaurar o acesso o mais rápido possível”.
Uma espécie de vitória de marketing indireta
Esta é uma história fascinante. Por um lado, a preocupação com o potencial de munições das ofertas de IA da Antrópico tem implicações genuínas para a segurança nacional. À medida que chegamos a um acordo com a IA, enfrentamos a questão de que novos tipos de desafios o rápido avanço das capacidades irá apresentar, ou, por outras palavras, “Que novo inferno é este desta vez?”
Então, sim. Isso aconteceu. É por isso que não podemos ter coisas boas.
Também: Mudando para Claude? Veja como levar suas memórias do ChatGPT com você
Do ponto de vista da Anthropic, tenho certeza de que a empresa não quer passar por isso por algo que vem trabalhando tanto para aperfeiçoar. Mas cara, cara, isso é marketing de ouro. Produzir um produto que a Casa Branca disse ser poderoso demais para cair em mãos erradas definitivamente demonstra que Claude Fable e Mythos são reais.
A maioria dos fornecedores de software gasta enormes orçamentos de marketing tentando encontrar histórias de clientes que possam compartilhar para provar que seus produtos podem fazer o trabalho. A Anthropic fez com que a Casa Branca suspendesse as exportações e o uso dos EUA por estrangeiros, porque é bom demais no seu trabalho.
Ninguém realmente quer esse tipo de marketing, especialmente quando há um risco real de que o novo produto principal seja derrubado. Mas, ainda assim, depois disso, ninguém duvidará que a Antrópica pode entregar a mercadoria. Se a empresa conseguir convencer o pessoal do governo e colocar o Fable de volta no mercado, certamente será um motivo para as pessoas quererem pagar o dobro para usá-lo.
Você pode acompanhar as atualizações diárias do meu projeto nas redes sociais. Certifique-se de se inscrever meu boletim informativo semanal de atualizaçãoe siga-me no Twitter/X em @DavidGewirtzno Facebook em Facebook.com/DavidGewirtzno Instagram em Instagram.com/DavidGewirtzno Bluesky em @DavidGewirtz.come no YouTube em YouTube.com/DavidGewirtzTV.
