Apesar de falar de um bolha iminente de IAa Amazon é a mais recente empresa a se beneficiar da corrida armamentista de IA. Meta acaba de fechar um acordo com a Amazon no valor de bilhões para implantar o Processadores AWS Graviton em seus 32 data centers nos próximos três anos. Embora a Amazon não tenha divulgado o valor total do negócio, vimos empresas gastarem somas impressionantes para sustentar o crescimento da IA.
Recentemente, a Meta também assinou um contrato de seis anos no valor de US$ 10 bilhões lidar com o Google Cloudenquanto a OpenAI concordou em gastar US$ 20 bilhões com a startup de chips Cerebras nos próximos três anos para usar servidores alimentados pelo hardware da empresa.
Os processadores Graviton suportam cargas de trabalho em nuvem executadas no Amazon Elastic Compute Cloud (Amazon EC2), e a empresa há muito afirma que oferece o melhor desempenho de preço para cargas de trabalho em nuvem.
O que é interessante aqui é que o AWS Graviton é uma CPU baseada em ARM, em vez de uma GPU. CPU refere-se à Unidade Central de Processamento de um computador, o cérebro do computador, enquanto GPU é sua Unidade de Processamento Gráfico, comumente usada para treinar modelos de IA.
“À medida que dimensionamos a infraestrutura por trás das ambições de IA da Meta, diversificar nossas fontes de computação é um imperativo estratégico”, disse Santosh Janardhan, chefe de infraestrutura da Meta, em uma declaração. “A AWS tem sido um parceiro de nuvem confiável há anos, e a expansão para Graviton nos permite executar cargas de trabalho com uso intensivo de CPU por trás da IA de agente com o desempenho e a eficiência que precisamos em nossa escala.”
A Meta é cliente de longa data da AWS, então este negócio de chips não é uma surpresa. O que é notável é que envolve chips de CPU em vez de GPU.
Normalmente, os modelos de IA são treinados em GPUs. Depois de treinados, os agentes de IA podem usar CPUs para cargas de trabalho com uso mais intensivo de computação, como escrever código.
Os chips Graviton são projetados para serem eficientes em tarefas de agentes de IA. Segundo a Amazon, os chips Graviton 5 possuem 192 núcleos e um cache cinco vezes maior que a geração anterior, reduzindo em 33% os atrasos de comunicação entre os núcleos. Deverão também ser mais eficientes em termos energéticos, com desempenho 25% melhor do que as gerações anteriores.
“Não se trata apenas de chips; trata-se de fornecer aos clientes a base de infraestrutura, bem como serviços de dados e inferência, para construir IA que entenda, antecipe e escale com eficiência para bilhões de pessoas em todo o mundo”, disse Nafea Bshara, vice-presidente da AWS, em um comunicado.
Parte do motivo por trás disso também pode ser que no início deste mês, a Antropic assinou um acordo gastar US$ 100 bilhões na AWS para executar cargas de trabalho Claude nos chips GPU Trianium da Amazon, enquanto a Amazon concordou em investir US$ 5 bilhões de volta na Antropic. É provável que a Antropic tenha monopolizado o estoque de chips Tranium2 a Tranium4 da Amazon, e a empresa também tem a opção de comprar futuros chips da Amazon assim que estiverem disponíveis.
Além de trabalhar com a Amazon, a Meta está desenvolvendo seu próprio silício internocom o trabalho avançando em quatro iterações de seu chip MITA para IA e uma parceria ampliada com a Broadcom para projetar e construir os chips. A Meta também concordou em gastar bilhões em chips e hardware de IA de Nvidia e AMDbem como outro acordo multibilionário para usar unidades de processamento de tensores do alfabeto.
Um representante da Meta se recusou a compartilhar cargas de trabalho específicas, mas disse que a empresa apoiará o trabalho de IA, incluindo MSL (Meta SuperIntelligence Labs).
