Início Tecnologia Funcionários de tecnologia estão sendo avaliados pela rapidez com que queimam tokens...

Funcionários de tecnologia estão sendo avaliados pela rapidez com que queimam tokens LLM

93
0

De acordo com um coluna por Kevin Roose do New York Times, funcionários de empresas como Meta e OpenAI competem em “tabelas de classificação internas que mostram quantos tokens[…]cada trabalhador consome.” Na Meta em particular (e também no Shopify), Roose diz que o volume de IA utilizado tornou-se uma métrica que entra nas avaliações das pessoas, com os gestores “recompensando os trabalhadores que fazem uso intenso de ferramentas de IA e castigando aqueles que não o fazem”.

As analogias são complicadas aqui. Ficamos tentados a dizer que é como fazer os pintores competirem para usar mais tinta, mas mesmo que a tinta esteja sendo espalhada o mais rápido possível, pelo menos ficará visível quando o projeto estiver concluído. É mais como dizer aos soldados para avaliarem o seu sucesso no campo de batalha pelo número de balas disparadas, mas o fogo supressivo que não atinge nada tem o seu lugar na estratégia de guerra. A melhor analogia que posso fazer é esta: é como se os mascotes da NBA fossem avaliados pelo número de camisetas que eles disparam com seus canhões de camisetas, mas o camisetas são feitas pela Hermès.

Os números resultantes, tanto em termos de fichas como de dinheiro, são absolutamente surpreendentes. Um engenheiro da OpenAI, de acordo com Roose, queimou 210 bilhões de tokens, o que Roose equivale a 33 Wikipédias. Um engenheiro de software sueco afirma a Roose que sua empresa gasta mais do que seu salário apenas com seus tokens Claude Code.

Essa tendência de “tokenmaxxing” decorre claramente em parte do uso de “garras”, plataformas de IA agentes como o OpenClaw, que são a maior suposta inovação deste ano em IA. A viralidade do OpenClaw foi parte da grande mudança dos modelos GPT da OpenAI em direção a Claude este ano pelos fanáticos da IA, e a OpenAI posteriormente contratou o criador do OpenClaw, aparentemente em uma tentativa de manter sua posição como líder do setor.

Mas mesmo quando usado sem uma plataforma de garra externa, o Claude Code está se tornando cada vez mais parecido com o OpenClaw ultimamente, com um recurso lançado na semana passada que permite uma codificação cada vez maior em movimento, permitindo que os usuários se comuniquem com o Claude Code mais facilmente em seus telefones.

A promoção ainda apresenta um pequeno sprite de 4 bits de uma lagosta, ou possivelmente um caranguejo – um crustáceo vermelho, pelo menos – o novo símbolo da devassidão do token LLM.

Mas o tokenmaxxing aborda uma questão mais ampla, na qual essas empresas elogiam o grande número de tokens processados ​​como um marcador de sucesso. O presidente da OpenAI, Greg Brockman, gabou-se há cerca de uma semana de que o GPT-5.4 orientado para codificação processa 5 trilhões de tokens por dia – o que, para ser justo, faz sentido como uma forma de agradar aos investidores, porque os tokens custam dinheiro.

Mas 5 biliões é um número enorme, temos de admitir. Você sabia que o carro Big Red Shoe de Ronald McDonald’s na parada do Dia de Ação de Graças da Macy’s caberia em um tamanho masculino de 266 pés se tivesse um pé real nele? Grandes números não são legais?



fonte