A Antrópica está mantendo a linha. Pelo menos por enquanto.
O Pentágono abordou a Anthropic esta semana com uma exigência de que removesse as grades de proteção em seu modelo de IA Claude para proibir a vigilância doméstica em massa e armas totalmente automatizadas. Mas a Anthropic se recusa a fazer isso, de acordo com um nova declaração do CEO Dário Amodei, que escreve: “não podemos, em sã consciência, aceder ao seu pedido”.
Há muito dinheiro em jogo. E ninguém sabe o que acontece a seguir.
No início desta semana, o secretário de Defesa, Pete Hegseth, deu à Anthropic um prazo de 17h01, horário do leste dos EUA, na sexta-feira, para concordar com a remoção de todas as salvaguardas, ameaçando expulsar Claude dos sistemas militares dos EUA ou designar a empresa como um “risco da cadeia de suprimentos”, um rótulo usado para adversários dos EUA que nunca foi aplicado a uma empresa americana antes.
Hegseth, que se refere ao Departamento de Defesa como Departamento de Guerra, até ameaçou invocar a Lei de Produção de Defesa, que teoricamente permitiria ao Pentágono apenas exigir que a Antrópico fizesse o que Hegseth quisesse.
Amodei apontou quinta-feira numa carta publicada online: “Estas duas últimas ameaças são inerentemente contraditórias: uma rotula-nos como um risco para a segurança; a outra rotula Claude como essencial para a segurança nacional”. Os especialistas chamaram as mensagens contraditórias de Hegseth de “incoerente”, um rótulo que também pode ser aplicado ao regime Trump de forma mais ampla.
Antrópico, que possui Contrato de US$ 200 milhões com o Departamento de Defesa, disse Notícias da CBS que a “melhor e última oferta” do Pentágono, enviada na quarta-feira, parecia ter lacunas que permitiriam aos militares ignorar as protecções implementadas.
“A nova linguagem enquadrada como compromisso foi combinada com o jargão jurídico que permitiria que essas salvaguardas fossem desconsideradas à vontade. Apesar das recentes declarações públicas da DOW, essas salvaguardas estreitas têm sido o cerne de nossas negociações há meses”, teria dito a Anthropic.
A nova carta divulgada pela Antrópico em TQuinta-feira fez questão de salientar que a empresa de IA trabalha com as comunidades militares e de inteligência e que elas “continuam prontas para continuar nosso trabalho para apoiar a segurança nacional dos Estados Unidos”. Mas pedir para abandonar todas as salvaguardas é apenas ir longe demais.
“A Antthropic entende que o Departamento de Guerra, e não as empresas privadas, toma decisões militares. Nunca levantamos objeções a operações militares específicas nem tentamos limitar o uso de nossa tecnologia de uma forma Ad hoc maneira”, escreveu a empresa.
“No entanto, num conjunto restrito de casos, acreditamos que a IA pode minar, em vez de defender, os valores democráticos. Algumas utilizações também estão simplesmente fora dos limites do que a tecnologia atual pode fazer de forma segura e fiável.”
A empresa listou os dois casos de uso em que acredita que são necessárias salvaguardas para proteger os interesses americanos. Na seção sobre vigilância doméstica em massa, Amodei coloque a palavra doméstico em itálico, como se quisesse alertar os americanos de forma mais ampla sobre o que está acontecendo bem debaixo de nossos narizes.
A carta observa que o governo pode adquirir “registros detalhados dos movimentos, navegação na web e associações dos americanos de fontes públicas sem obter um mandado”, algo que obviamente infringe os direitos dos americanos. O Pentágono sugeriu que não tem um plano para vigilância em massa dos americanos, dizendo à CNN que o conflito com a Antrópica “não tem nada a ver com vigilância em massa e uso de armas autónomas”.
A segunda seção de AmodeiA carta do Presidente, que abrange armas autónomas, reconhece que armas assistidas por IA já estão a ser utilizadas em campos de batalha em locais como a Ucrânia. Mas adverte que “os sistemas de IA de fronteira simplesmente não são suficientemente fiáveis para alimentar armas totalmente autónomas”. A carta prossegue dizendo: “Oferecemo-nos trabalhar diretamente com o Departamento de Guerra em I&D para melhorar a fiabilidade destes sistemas, mas eles não aceitaram esta oferta”.
Amodei encontrou-se com Hegseth na terça-feira em uma reunião que foi descrita pela CNN como “cordial”, mas obviamente será interessante ver aonde isso vai dar.
Hegseth não é conhecido como um cara particularmente inteligente ou sensato, então é perfeitamente possível que ele tente rotular a Anthropic como uma ameaça à segurança nacional e como uma parte da máquina de guerra da América tão vital que ele essencialmente recrutará a empresa para fazer o que ele quer. Parece que todos nós descobriremos até o final do dia de sexta-feira.
