O que é um PC com IA?

A IA está em toda parte. Empresas de IA como OpenAI e Anthropic passaram de nomes desconhecidos a nomes conhecidos em apenas alguns anos. Grandes empresas de tecnologia como Google, Meta, Amazon e Microsoft continuam lançando seus modelos de IA em todos os produtos, desde pesquisas até assistentes de chatbot e muito mais. E, naturalmente, as empresas que fabricam chips de computador e GPUs como a Nvidia estão arrecadando bilhões à medida que criam o hardware que alimenta tudo isso.

Mas e se os consumidores não quiserem enviar seus dados para grandes empresas de tecnologia ou desembolsar centenas, senão milhares, de dólares por mês para grandes empresas de IA em troca de tokens? Embora empresas de hardware de computador como a Nvidia possam estar lutando para acompanhar a demanda, os usuários comuns ainda podem encontrar tudo o que precisam para construir sua própria máquina – um PC com IA – e executar modelos de IA localmente.

Mas o que exatamente é um PC com IA? O que você precisa se quiser construir o seu próprio ou o que procurar ao comprar um PC AI pré-fabricado? E como ele difere de outros computadores poderosos desenvolvidos para fins específicos, como PCs para jogos?

Para responder a essas perguntas, Mashable conversou com um especialista que ganha a vida construindo PCs, o cofundador e CEO da Quoted Tech, Kevin Jia. Fundada em 2023, Tecnologia citada é uma empresa com sede no Canadá que fabrica PCs personalizados para milhares de clientes. Jia e empresa também forneceram ao Mashable acesso a um de seus modelos pré-construídos, o Citado One Pro Plusum computador básico pré-construído e personalizado feito para IA, para que pudéssemos testar exatamente o que torna um PC AI um PC AI.

O que é um PC com IA?

Um AI PC é exatamente o que diz ser: um computador construído para lidar com inteligência artificial, aprendizado de máquina e grandes modelos de linguagem (LLMs).

Tecnicamente, todo PC pode utilizar IA hoje em dia, assim como se pode jogar ou editar vídeos em qualquer computador, sem necessidade de PC para jogos ou estação de trabalho de edição de vídeo. Assim como um PC para jogos oferece desempenho máximo e a melhor experiência de jogo, um PC com IA é construído especificamente para executar modelos de IA.

Como Jia apontou, porém, um PC AI não significa que seja uma máquina de propósito único, já que muitas das especificações que você encontraria em um PC AI também podem ser encontradas em uma plataforma de jogos ou PC construído para processamento de vídeo.

“Os usuários não precisam escolher entre um equipamento de ‘IA’ e um equipamento de ‘jogo’”, explicou Jia. “Um computador orientado para IA não precisa ser uma máquina de uso único. É uma estação de trabalho totalmente capaz de trabalhar com IA, mas também foi construída para lidar confortavelmente com jogos e outras cargas de trabalho profissionais em um único sistema.”

Posso apenas usar meu laptop para IA?

Claro, você pode usar ChatGPT, Claude, Copilot e Gemini, todos em seu laptop de US$ 300. Os modelos de nuvem podem ser executados em qualquer máquina.

No entanto, se estiver tentando executar processos locais de IA, você precisará de um PC desenvolvido para a tarefa.

“A IA precisa de muito poder de processamento de GPU, e você precisa de muito VRAM, e de muita memória, e de uma CPU decente, e precisa ser capaz de resfriar tudo isso em uma torre decente”, Jia nos disse. “Recebemos clientes que nos procuraram dizendo: ‘Ei, comprei este laptop para IA e ele não funciona, apenas superaquece e fica lento.'”

Para ter uma ideia do que há dentro de um PC AI para consumidor, aqui estão as especificações do Quoted One Pro Plus que testamos para esta peça:

• CPU: Intel Core i5-14600K (14 núcleos/20 threads, até 5,3 GHz)

• GPU: NVIDIA RTX 5060 (8GB GDDR7)

• Memória: 32 GB DDR5 (2 × 16 GB) Kingston Fury Beast a 5600 MHz

• Armazenamento: SSD Kingston KC3000 NVMe M.2 de 1 TB (velocidades de leitura de até 7.000 MB/s)

• Placa-mãe: MSI PRO Z790-VC WiFi

• Resfriamento da CPU: Thermalright Peerless Assassin 120 (refrigerador de ar de torre dupla branco)

• Fonte de alimentação: MSI MAG A650BN 650W, 80+ Bronze (não modular)

• Caixa: Fractal Design North (branco com painel lateral de vidro temperado)

• Sistema operacional: Windows 11 Home

Qual é a principal diferença entre um PC desenvolvido para IA e outras versões de PC?

Tradicionalmente, quando se pensa em um PC de última geração, pelo menos no nível do consumidor, pensa-se em um PC para jogos sofisticado.

Embora você possa jogar em um PC com IA e vice-versa, os criadores de PC personalizados, como a Quoted Tech, sabem que há uma diferença ao construir um PC para uma finalidade específica, como a IA.

Uma grande diferença? A ênfase no resfriamento.

“Você pode ver que há muito fluxo de ar”, disse Jia. “Isso será algo inegociável para sistemas construídos com IA.”

Ventilação Norte do Fractal Design
Crédito: Design Fractal

Depois de passar algum tempo testando o Quoted One Pro Plus, uma “tonelada de fluxo de ar” na verdade parece um eufemismo. Para sua linha de computadores de IA, a Quoted Tech usa o gabinete North PC da Fractal Design.

A primeira coisa que você notará é que a torre do PC é muito maior do que você esperava. Claro, eles poderiam torná-lo menor. Esta não é uma limitação tecnológica. O case do PC é grande de propósito. North foi projetado para oferecer fluxo de ar ideal para resfriar seu PC.

“Muitos sistemas pré-construídos são projetados com um formato menor porque são mais baratos”, diz Jia. “Algumas pessoas vieram até nós e disseram: ‘Estou executando isso em um sistema de jogo pré-construído e ele está travando ou ficando lento, ou não está funcionando.’ E contamos a eles como eles têm o equivalente a um laptop grande. Esse sistema não foi projetado para ser empurrado dessa forma.”

Você pode sentir uma leve brisa emanando do Quoted One Pro Plus quando ele está funcionando. É como noite e dia quando comparado ao meu PC para jogos, muito menor. Minha torre de PC poderia aquecer meu quarto, se necessário, durante o inverno, enquanto jogo alguns minutos de Fortnite. Em contraste, o fluxo de ar que sai do Quoted One Pro Plus pode resfriar uma pequena sala durante o verão.

“Quando você está jogando, espero que a maioria de nós jogue apenas algumas horas de cada vez”, explicou Jia. “Muitos sistemas de jogos, embora sejam bons para o fluxo de ar, podem não ser de primeira linha porque não foram projetados para funcionar por 7, 8 ou mesmo 12 horas.”

“Considerando que com IA, se você estiver fazendo um trabalho de LLM ou algo parecido, poderá administrar isso por 2 ou 3 dias.” ele continuou. “Você precisa de estabilidade. Você precisa de resfriamento de classe de estação de trabalho. Você precisa de espaço de classe de estação de trabalho. Esses você não pode negociar.”

Também tende a não haver limite para a quantidade de poder de processamento que você pode colocar em um PC AI. Por exemplo, a Quoted Tech construiu estações de trabalho que podem hospedar até 8 GPUs simultaneamente.

“Seria um PC para jogos horrível porque a maioria dos jogos não será capaz de utilizar mais de uma GPU de forma eficaz”, disse Jie. “Se você dissesse: ‘Vou comprar uma placa Blackwell para jogar jogos de computador’, eu diria que precisamos repensar em que você está gastando o dinheiro, porque provavelmente conseguiria 99% do desempenho [in a gaming PC] por um terço do orçamento.”

Gabinete North PC da Fractal Design
Crédito: Design Fractal

Por que um PC AI em vez dos Macs com silício da Apple?

Em novembro de 2020, a Apple lançou sua primeira linha de Silicon Macs com os novos M1 MacBook Air, MacBook Pro e Mac mini. Esses Macs forneceram aos consumidores opções mais poderosas do que laptops e desktops com preços semelhantes.

À medida que a Apple acumulou cada vez mais poder de processamento nesses chips de silício ao longo dos anos, eles se tornaram populares entre os usuários que desejam executar processos locais de IA, como o assistente de IA. OpenClaw.

Embora esses Macs continuem sendo boas opções para determinados casos de uso, Jia explica por que os PCs continuam sendo a melhor escolha para IA.

“Geralmente, a maioria dos desenvolvedores de LLM e IA hoje baseiam-se na linguagem CUDA da NVIDIA. Essa é realmente a diferença definidora”, disse Jia, referindo-se à arquitetura de dispositivos unificados de computação proprietária da Nvidia, que requer GPUs da Nvidia e, portanto, não pode ser executada em Macs.

“Os sistemas baseados em Macs e Radeon simplesmente não têm o mesmo ecossistema coeso baseado em CUDA para os desenvolvedores trabalharem”, continuou ele. “Para qualquer pessoa que esteja construindo ou experimentando seriamente modelos de IA, esse ecossistema é importante, ele determina quais ferramentas você pode usar, quais fluxos de trabalho você pode otimizar e com que facilidade você pode dimensionar seu trabalho.”

E, claro, os PCs podem ser continuamente atualizados com novo hardware, enquanto os consumidores não podem atualizar o interior dos seus Macs.

Para comparar os dois, executei um modelo generativo de IA para imagens em ambos. Ambos completaram as tarefas com base nas instruções atribuídas. Isto não foi surpreendente. Afinal, ambos foram construídos para lidar com o processamento de IA.

Embora o hardware de nível de consumidor que eu tinha disponível não fosse a melhor maneira de mostrar a diferença entre PCs e Macs quando se trata de processamento de IA, aproveitei o acesso ao meu próprio Mac mini M4 Pro e ao Quoted Tech’s Quoted One Pro Plus. Para comparar os dois, executei um modelo generativo de IA para imagens em ambos. Ambos completaram as tarefas com base nas instruções atribuídas. Isto não foi surpreendente. Afinal, ambos foram construídos para lidar com o processamento de IA.

No entanto, foi difícil ignorar a diferença entre o calor que emana do Mac mini e o ar frio que continua a fluir pelo Quoted One Pro Plus. É fácil ver como o formato de um PC AI construído em propriedade lhe dará uma vantagem sobre o Mac em termos de desempenho.

Quanto vai me custar um PC com IA?

Obviamente, há uma ampla gama de preços, já que os PCs de IA podem ser construídos para uso do consumidor ou para uso em grandes empresas. Jia me informou que a Quoted Tech construiu estações de trabalho com preços de até seis dígitos. Mas os usuários individuais que desejam executar modelos locais de IA obviamente não precisam gastar tanto.

A Quoted Tech diz que aqueles que desejam “se envolver” na execução de modelos locais de IA podem começar em um PC de IA básico, como o Quoted One Pro Plus, por entre US$ 1.500 e US$ 2.500.