Servidores para IA

A maior parte dos projetos de IA que chega a uma cotação no Brasil é de inferência, não de treinamento. Integradores, provedores, hospitais, universidades e áreas de risco de instituições financeiras querem rodar modelos já treinados sobre dados que não podem sair do país, e isso muda completamente o dimensionamento. Treinar exige clusters com interconexão dedicada; inferir exige memória de GPU suficiente para o modelo caber, latência previsível e custo por requisição controlado. Confundir os dois cenários é a forma mais rápida de comprar o servidor errado.

O primeiro corte é sempre memória do acelerador. Um modelo cabe ou não cabe: se não couber na memória da GPU, você paga o preço de dividir o modelo entre placas ou de trazer pesos da memória do sistema, e o desempenho despenca. Só depois de fixar a memória necessária faz sentido discutir número de placas, quantidade de núcleos de CPU por acelerador e volume de RAM. A regra prática usada em projeto sério é manter memória de sistema em torno de uma vez e meia a duas vezes a memória total de GPU, para não travar o carregamento de modelos e o pré-processamento.

O servidor ao redor da GPU importa mais do que se supõe. Faltam com frequência linhas PCIe suficientes para alimentar os aceleradores em largura plena, armazenamento NVMe capaz de sustentar leitura de dataset sem deixar a GPU ociosa e rede à altura quando há mais de um nó. Em cluster de treinamento, a interconexão entre nós vira o gargalo dominante e o projeto passa a exigir 100G com RDMA. Em nó único de inferência, 25G costuma bastar, e o dinheiro rende mais em memória e disco do que em placa de rede.

A restrição que derruba mais projetos brasileiros, porém, é elétrica. Um nó com aceleradores modernos consome vários quilowatts e a maioria dos racks corporativos e de colocation regional no Brasil foi projetada para uma faixa bem inferior. Antes de escolher chassi, confirme a potência disponível por rack, o padrão de tensão e as PDUs, a capacidade de nobreak e o tipo de contenção de corredor. É comum um projeto de IA precisar de obra elétrica antes de precisar de servidor, e descobrir isso depois de importar o equipamento é caro.

Sobre a compra em si: no Brasil o valor importado é onerado por II, IPI, ICMS e PIS/COFINS, o que amplifica qualquer erro de superdimensionamento. Para cargas de inferência moderada, feature store, pré-processamento e serviços de apoio, plataformas PowerEdge e ProLiant recondicionadas certificadas resolvem bem e liberam orçamento para onde ele realmente pesa, que é o acelerador. Cotamos a configuração completa — CPU, memória, NVMe, placas de rede e fontes redundantes — e validamos alimentação e refrigeração antes de fechar qualquer nó com GPU.