O CEO da OpenAI, Sam Altman, responde ao acordo com o Departamento de Guerra

A OpenAI firmou um acordo com o Departamento de Guerra dos EUA (DOW), fornecendo suas ferramentas de IA para uso militar em “ambientes classificados”. Anunciando a parceria no sábadoo desenvolvedor do ChatGPT afirma que inclui proteções que proíbem o uso de sua tecnologia para vigilância doméstica em massa ou armas autônomas. No entanto, trechos de contratos compartilhados pela OpenAI parecem deixar lacunas significativas.

A notícia do acordo da OpenAI com o DOW veio apenas um dia depois que o presidente Donald Trump anunciou que o governo dos EUA não usará mais tecnologia do rival da OpenAI, Antrópico, incluindo seu modelo de IA Claude. Postando sobre a separação no Truth SocialTrump se opôs à insistência da Anthropic para que o DOW cumprisse os termos de serviço da empresa.

Foram revelados exatamente quais termos de serviços com os quais Trump questionou em declaração do CEO da Anthropic, Dario Amodei, na quinta-feira. Nele, ele afirmou que a DOW exigia que a Antrópica removesse as salvaguardas contra o uso de sua tecnologia para vigilância em massa nos EUA e armas totalmente controladas por IA. Amodei afirmou que tal uso pode ser tecnicamente legal, no entanto, “isso ocorre apenas porque a lei ainda não acompanhou as capacidades de rápido crescimento da IA”.

“[I]Num conjunto restrito de casos, acreditamos que a IA pode minar, em vez de defender, os valores democráticos”, escreveu Amodei. “Alguns usos também estão simplesmente fora dos limites do que a tecnologia atual pode fazer com segurança e confiabilidade.”

Os termos da OpenAI são aparentemente mais do agrado da administração Trump, com a empresa intervindo para fornecer aos militares dos EUA tecnologia de IA no lugar da Antrópico. No entanto, apesar disso, a OpenAI afirma que o seu acordo com a DOW não só tem barreiras de protecção semelhantes que proíbem a utilização da sua tecnologia para vigilância doméstica em massa ou para dirigir armas autónomas, mas ainda acrescenta uma terceira: “Não utilização da tecnologia OpenAI para decisões automatizadas de alto risco (por exemplo, sistemas como ‘crédito social’)”.

“Mantemos total discrição sobre nossa pilha de segurança, implantamos via nuvem, o pessoal autorizado da OpenAI está informado e temos fortes proteções contratuais”, dizia o anúncio da OpenAI. “Isso tudo se soma às fortes proteções existentes na legislação dos EUA”.

Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.

De acordo com a OpenAI, as limitações impostas são mais aplicáveis ​​​​do que as da Anthropic porque ela só fornecerá sua tecnologia ao DOW por meio da nuvem, em vez de instalá-la diretamente no hardware. O pessoal da OpenAI também será mantido envolvido para que possam ver como a DOW está usando sua tecnologia. Isto supostamente permitirá à empresa mais supervisão e controle de seus sistemas de IA.

“Não sabemos por que a Anthropic não conseguiu chegar a este acordo e esperamos que eles e mais laboratórios considerem isso”, escreveu OpenAI.

No entanto, um trecho do contrato compartilhado pela OpenAI indicou que a sua tecnologia só será proibida de ser utilizada em armas autónomas ou para vigiar cidadãos dos EUA onde tal utilização seja ilegal. Na verdade, o acordo parece estabelecer circunstâncias em que a tecnologia da OpenAI seria permitida para estes fins, tais como quando o controlo humano sobre armas não é exigido pela política ou lei da DOW.

“O Departamento de Guerra pode usar o Sistema de IA para todos os fins legais, consistente com a lei aplicável, requisitos operacionais e protocolos de segurança e supervisão bem estabelecidos”, diz o contrato, de acordo com OpenAI. “[A]Qualquer uso de IA em sistemas autônomos e semiautônomos deve passar por verificação, validação e testes rigorosos para garantir que funcionem conforme pretendido em ambientes realistas antes da implantação.”

Respondendo às preocupações em uma postagem no LinkedInKatrina Mulligan, chefe de parcerias de segurança nacional da OpenAI, apenas reiterou que suas políticas de uso não são as únicas salvaguardas em vigor, enfatizando novamente sua implantação em nuvem e o envolvimento de seu pessoal.

“[The DOW’s] A posição era: construa o modelo como quiser, recuse quaisquer solicitações que desejar, apenas não tente governar nossas decisões operacionais por meio de políticas de uso”, escreveu Mulligan.

Ainda assim, permanecem dúvidas quanto à eficácia destas salvaguardas ostensivas, especialmente considerando a relutância da OpenAI em assumir uma posição ética.

Sam Altman fala sobre o acordo da OpenAI com o Departamento de Guerra

Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.

CEO da OpenAI, Sam Altman conduziu uma sessão de perguntas e respostas sobre X na tentativa de amenizar as preocupações dos usuários sobre o acordo da DOW, com pouco sucesso aparente. Admitindo que o acordo “foi definitivamente apressado e a ótica não parece boa”, Altman afirmou que eles esperavam que isso diminuísse as tensões entre o DOW e a indústria de IA.

“Acho que um bom relacionamento entre o governo e as empresas que desenvolvem esta tecnologia será fundamental nos próximos anos”, escreveu Altman.

O acordo pode ter aproximado a OpenAI e o governo dos EUA, mas parece ter alienado simultaneamente os usuários civis do ChatGPT.

Respondendo a um questão sobre se permitir todo o uso legal permite vigilância em massaAltmann compartilhou uma postagem pelo subsecretário de Guerra dos EUA, Emil Michael, no qual afirmou que “O DoW não espiona a comunicação interna do povo dos EUA (inclusive por meio de coleta comercial) e fazê-lo seria ilegal e profundamente antiamericano.”

Não é de surpreender que poucos pareçam inclinados a acreditar na palavra da DOW. Em 2013, o denunciante Edward Snowden revelou vigilância em massa de cidadãos dos EUA conduzida pela Agência de Segurança Nacional (NSA) do DOW (então chamada Departamento de Defesa). Este programa foi considerado ilegale incluiu registros telefônicos das pessoas. A Human Rights Watch também acusou o então Departamento de Defesa de vigiando cidadãos dos EUA sem mandados em 2017.

“O governo já violou a lei e monitorou ilegalmente [sic] Cidadãos dos EUA”, respondeu o usuário X @ bolts6629. “Uma declaração insignificante de um subsecretário de um governo famoso por mentir é suficiente para você?”

Altman afirmou que se recusaria a usar a tecnologia da OpenAI para vigilância doméstica em massa “porque viola a Constituição”, e manifestou desconforto com a ideia de uma alteração que permitisse tal utilização. No entanto, alguns utilizadores das redes sociais duvidaram desta afirmação, observando que ele já voltou atrás em outras promessas.

“Outras coisas que você disse que não faria: anular o conselho da OpenAI, remover a estrutura sem fins lucrativos, colocar anúncios no ChatGPT”, observou @Laneless_.

Além disso, o CEO da OpenAI também indicou que a empresa está relutante em traçar limites éticospreferindo abdicar da responsabilidade e seguir as orientações do governo em vez de assumir qualquer tipo de posição.

“[W]Não somos eleitos”, escreveu Altman. “Temos um processo democrático em que elegemos os nossos líderes. Temos experiência com a tecnologia e entendemos suas limitações, mas acho que você deveria ter medo de que uma empresa privada decida o que é ou não ético nas áreas mais importantes.”

“Cumprir ordens não é desculpa para comportamento antiético”, respondeu @MagisterLudiX. “Ou você tem fortes linhas vermelhas ou vê isso como puramente transacional, dependendo do contexto político”.

“IA é uma ferramenta. Um limite rígido para ela é um limite como qualquer outra ferramenta tem”, escreveu @genericrohan. “Não se trata de decidir o que os militares podem fazer, trata-se de estabelecer um limite que os militares podem planear.”

Em resposta às notícias da parceria OpenAI e DOW, muitos usuários do ChatGPT estão supostamente cancelando suas assinaturas para o chatbot de IA. Vários são em vez disso recorrendo ao chatbot de IA da Anthropic, Claudeque desde então destronou o ChatGPT como o aplicativo gratuito mais baixado na Apple App Store dos EUA.

“A OpenAI acabou de fazer um acordo com um diabo e perdeu esse cliente de 2 anos” Usuário do Reddit r/boomroom11 postado no subreddit r/ChatGPT. A postagem tinha mais de 26.000 votos positivos no momento da redação. “A empresa (originalmente sem fins lucrativos) que nos disse que existia para construir IA de forma segura para a humanidade está agora a aceitar contratos do Pentágono. Sam Altman decidiu que o dinheiro da defesa era mais importante do que todos os princípios em que a empresa foi fundada.”

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.