OpenAI atualiza acordo com o Departamento de Guerra após reação negativa

O CEO da OpenAI, Sam Altman, diz que a empresa apressou seu recente acordo com o Departamento de Guerra dos EUA (DOW), admitindo que parecia “oportunista e desleixado”. Em um memorando interno que ele posteriormente compartilhou no X, Altman afirmou que a OpenAI está agora alterando seu acordo para fornecer tecnologia de IA aos militares. Parece ter feito pouco para amenizar as preocupações.

“[W]e não deveria ter corrido para divulgar isso na sexta-feira”, Altman escreveu em um post X na segunda-feira. “As questões são supercomplexas e exigem uma comunicação clara. Estávamos genuinamente tentando acalmar as coisas e evitar um resultado muito pior, mas acho que parecia oportunista e desleixado”.

A OpenAI anunciou sua parceria com o DOW no final da semana passada, abocanhando o contrato poucos dias depois que o presidente Donald Trump ordenou que as agências federais parassem de usar o concorrente Antrópico. De acordo com o CEO da Anthropic, Dario Amodei, a divisão ocorreu porque recusou as exigências do DOW de remover as salvaguardas contra o uso de IA para vigilância doméstica em massa e armas totalmente autônomas. Em vez disso, a DOW queria usar as ferramentas de IA da Anthropic para “qualquer uso legal.”

Como tal, o rápido acordo DOW da OpenAI provocou reação imediata de seus usuários civis. Apesar da alegação da OpenAI de que o seu acordo tem ainda mais salvaguardas do que o acordo original da Antrópico, o contrato parecia permitir tanto a vigilância em massa como as armas controladas pela IA, desde que tal utilização fosse legal, e até mesmo estabelecia as circunstâncias em que seria permitida.

Agora a OpenAI está tentando controlar os danos, afirmando que trabalhou com a DOW para adicionar uma nova linguagem ao contrato que aborda diretamente o uso de sua tecnologia para vigilância doméstica.

“Ao longo de nossas discussões, o Departamento [of War] deixou claro que compartilha do nosso compromisso de garantir que nossas ferramentas não serão usadas para vigilância doméstica”, A OpenAI escreveu na segunda-feira uma atualização do anúncio original do acordo.

OpenAI atualiza acordo com o Departamento de Guerra após reação negativa

Infelizmente, as novas alterações que a OpenAI partilhou continuam a basear-se na legalidade como o limite de restrição que impede a vigilância em massa, deixando tal utilização como uma possibilidade caso o governo dos EUA altere a lei. Também não abordam a questão das armas autónomas.

“De acordo com as leis aplicáveis… o sistema de IA não deve ser usado intencionalmente para vigilância doméstica de pessoas e cidadãos dos EUA”, dizem as novas seções. “Para evitar dúvidas, o Departamento entende esta limitação como uma proibição de rastreamento, vigilância ou monitoramento deliberado de pessoas ou nacionais dos EUA, inclusive por meio da aquisição ou uso de informações pessoais ou identificáveis ​​adquiridas comercialmente.”

Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.

Muitos utilizadores das redes sociais reagiram às alterações contratuais da OpenAI com cepticismo, alguns argumentando que a sua proibição específica de vigilância “deliberada” deixa lacunas notáveis.

“É difícil não interpretar como admitir uma rede de IA”, o pesquisador político Tyson Brody (@tysonbrody) respondeu à postagem de Altman. “‘intencionalmente’ e ‘deliberado’ – então os americanos vai ser varrido por esses dados, mas o governo pode alegar ‘coleta incidental’ e, portanto, legal.”

“‘Não usado intencionalmente’ não é uma salvaguarda real em um sistema de IA autônomo,” escreveu @Andy_Bloch. “Ele pode acabar fazendo vigilância por causa do que foi treinado, do que descobre ou de como as pessoas o usam depois”.

Altman indicou anteriormente que a OpenAI limitaria o uso de suas ferramentas de IA apenas em termos legais, e não éticos, durante uma sessão de perguntas e respostas realizada logo após o anúncio do acordo DOW. O CEO expressou relutância em assumir uma postura ética, afirmando que a OpenAI prefere seguir as instruções do governo em vez de considerar tais questões por si só.

Apesar das críticas a esta aparente abdicação de responsabilidade, Altman reiterou novamente esta posição no seu novo memorando, enquadrando-a como uma deferência aos “processos democráticos”.

“Deveria ser o governo tomando as principais decisões sobre a sociedade”, escreveu Altman. “Queremos ter uma voz e um lugar à mesa onde possamos partilhar os nossos conhecimentos e lutar pelos princípios da liberdade. Mas somos claros sobre como o sistema funciona (porque muitas pessoas perguntaram, se eu recebesse o que acreditava ser uma ordem inconstitucional, é claro que preferiria ir para a cadeia a segui-la).”

Altman afirmou que as agências de inteligência da DOW, como a Agência de Segurança Nacional (NSA), não usarão a tecnologia da OpenAI sem uma alteração ao seu contrato. Mesmo assim, atualmente parece improvável que a OpenAI negue pedidos legais para tais modificações, independentemente de quaisquer questões éticas que possam surgir. (Foi anteriormente revelado que a NSA vinha conduzindo vigilância em massa de cidadãos dos EUA pelo denunciante Edward Snowden em 2013.)

Vários clientes OpenAI têm cancelado deles Bate-papoGPT assinaturas em resposta ao acordo da empresa com o DOW, com desinstalações supostamente saltando 295 por cento na esteira das notícias. Claude, chatbot de IA da Anthropic desde então, destronou o ChatGPT como o aplicativo gratuito mais baixado na Apple App Store dos EUA,

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.