Os problemas da Antrópico com o governo dos EUA não parecem estar diminuindo. A empresa foi agora condenada a suspender o acesso a Fable 5 e Mythos 5 para todos os estrangeiros, incluindo funcionários estrangeiros da Anthropic que trabalham dentro dos Estados Unidos.
A Anthropic disse que recebeu a diretriz em 12 de junho e está desativando os dois modelos para que todos os clientes cumpram. Outros modelos antrópicos não são afetados. O governo não explicou publicamente toda a preocupação com a segurança nacional, mas a Anthropic diz que entende que a ordem está ligada a um método relatado para contornar, ou desbloquear, as salvaguardas do Fable 5.
Um novo confronto após a luta no Pentágono
Este não é o primeiro impasse sério da Antrópico com Washington. No início deste ano, a empresa foi apanhada numa disputa com o Pentágono depois de este se ter recusado a remover as restrições que impediam Claude de ser utilizado para fins totalmente armas autônomas e vigilância doméstica em massa. Essa luta levou a alegações de inclusão na lista negra e a ações legais, colocando a posição de segurança em primeiro lugar da Anthropic em conflito direto com partes do governo dos EUA.
A última diretriz coloca a Antrópica de volta em uma posição familiar. As autoridades estão preocupadas com o acesso a poderosos sistemas de IA, enquanto a Anthropic argumenta que as suas salvaguardas estão a ser mal compreendidas ou julgadas por padrões irrealistas.
Por que Fable 5 se tornou uma preocupação
A preocupação em torno do Fable 5 está ligada aos recursos avançados de segurança cibernética do Mythos 5. A Anthropic disse que os modelos da classe Mythos podem descobrir e explorar vulnerabilidades de software, e o Mythos 5 foi supostamente testado pela NSA e outros avaliadores ligados ao governo antes de um lançamento mais amplo. Embora essas capacidades possam ajudar as equipas de segurança a identificar e corrigir pontos fracos, também criam preocupações de segurança nacional se forem utilizadas para fins ofensivos ou maliciosos.
Fable 5 foi lançado há apenas alguns dias como uma versão pública do Mythos 5 com proteções mais rígidas. A Anthropic disse que foi projetado para bloquear ou redirecionar consultas confidenciais de segurança cibernética e biológicas para o Opus 4.8.
Antrópico diz o desvio relatado apenas surgiram vulnerabilidades menores e já conhecidas e que outros modelos públicos podem fazer coisas semelhantes. Ainda assim, com um tema tão delicado como a segurança cibernética, a cautela é razoável. Se o Mythos 5 for capaz de identificar vulnerabilidades de software em alto nível, então suas proteções não podem ser apenas boas o suficiente. Eles precisam ser herméticos. A Antrópica pode argumentar que o o jailbreak relatado foi estreitomas a preocupação do governo desta vez é mais fácil de entender. Neste caso, “melhor prevenir do que remediar” pode ser a posição mais defensável do governo.
