O Pentágono deu à Anthropic, os criadores do Claude, um ultimato: permitir aos militares acesso irrestrito ao seu modelo de IA, mesmo que os potenciais usos violem as próprias salvaguardas da empresa, ou ela enfrentará punições significativas. A Anthropic recusou, com o CEO Dario Amodei dizendo que a empresa “não pode, em sã consciência, atender” aos pedidos do Departamento de Defesa. Agora, Sam Altman, CEO da OpenAI, gostaria que você soubesse que ele também teria agido com princípios se fosse necessário.
Em um memorando distribuído aos funcionários da OpenAI na noite de quinta-feira— e definitivamente não vazou cinicamente para a imprensa para que todos saibam como Sam Altman é um menino corajoso — o fundador e CEO disse à sua empresa: “Há muito que acreditamos que a IA não deve ser usada para vigilância em massa ou armas letais autónomas, e que os humanos devem permanecer no circuito para decisões automatizadas de alto risco. Estas são as nossas principais linhas vermelhas”.
Estas são, claro, exactamente as mesmas linhas vermelhas que a Anthropic tem mantido e que têm sido alegadamente um problema para o Pentágono, apesar da sua insistência de que só quer usar a IA para “todos os fins legais”. A melhor leitura sobre essa posição é que atualmente não existem leis que impeçam o uso de armas autônomase o Pentágono gostaria de usar Claude para implantar o seu arsenal de alguma forma. A Anthropic já teria criado uma exclusão em sua política de linha vermelha que permitiria ao Departamento de Defesa usar Claude para “armas defensivas”, mas isso claramente não foi suficiente para a agência, ou então esse impasse já teria terminado.
Altman, ao adotar as políticas de proibição da Anthropic, nem sequer o coloca em segundo lugar, atrás de Amodei, em traçar um limite com os militares. Mais de 100 funcionários do Google o venceramassinando e enviando uma carta à administração solicitando que a empresa adote as mesmas linhas vermelhas da Anthropic se a empresa continuar a fazer negócios com o Pentágono. Mas deve ter sido pelo menos uma rajada grande o suficiente para Altman sentir para onde soprava o vento e fincar sua bandeira.
Para crédito da Anthropic, ela realmente teve que enfrentar a pressão do Pentágono, cujos detalhes continuaram a surgir ao longo da semana. O último detalhe, relatado pelo Washington Postincluiu o Departamento de Defesa bombardeando a empresa com hipóteses como se Claude poderia ser usado para abater um míssil balístico intercontinental lançado contra os Estados Unidos. (O CEO da Antrópico teria dito ao DoD para ligar e perguntar, o que não foi uma resposta satisfatória ao Pentágono, embora a Antrópico negue. Um estudo recente descobriram que os chatbots, incluindo Claude, lançam armas nucleares em 95% dos jogos de guerra, portanto, fazer uma chamada parece ser o menor dos resultados potencialmente problemáticos.)
A empresa não cedeu, apesar de o Pentágono ter ameaçado cancelar os contratos governamentais da Antrópico, declarar a Antrópico um “risco da cadeia de abastecimento” e/ou invocar a Lei de Produção de Defesa para forçar a empresa a construir um modelo para os propósitos desejados pelos militares. Parece que essas ameaças podem ter sido mais fanfarronices do que qualquer coisa, o que a Anthropic provavelmente antecipou, com base no fato de que Bloomberg informou o Pentágono ainda está aberto a negociações. A empresa também tem mais alavancagem do que se possa imaginar, visto que a Palantir, favorita do Departamento de Defesa, possui infraestrutura em nuvem que depende do modelo da Antrópico para operar.
Com os seus maiores canhões incapazes de fazer a Antrópico desabar, o Pentágono recorreu a uma nova abordagem: insultos mesquinhos. O subsecretário de Defesa, Emil Michael, passou a maior parte da quinta-feira explodindo Antrópico no Twitterchamando Amodei de “mentiroso” com “complexo de Deus” e alegando que o CEO da Anthropic queria “controlar pessoalmente as Forças Armadas dos EUA”. Ele também alegou que a constituição da Anthropic para Claude, um documento que dita como o chatbot deve agir, era na verdade a empresa tentando posicionar suas próprias regras para substituir a Constituição dos EUA, e não é assim que funciona.
É um pouco difícil imaginar o Departamento de Defesa vencendo este impasse no tribunal da opinião pública, dado que a posição da Antrópico é “vamos concordar em não espionar os americanos ou deixar a IA bombardear pessoas”, e a resposta do Pentágono foi “Não”. Mas parece que a agência quer que a luta seja vista por todos, por qualquer motivo.
