NVIDIA reforça liderança em IA ao reduzir custo total de inferência

O custo total de inferência voltou ao centro do debate no setor de semicondutores após novos gargalos na cadeia global de suprimentos. A elevação dos preços de wafers avançados da Taiwan Semiconductor Manufacturing Company (TSMC) e a capacidade restrita de encapsulamento CoWoS reacenderam a tese de que chips customizados, conhecidos como ASICs, poderiam ganhar espaço frente às GPUs da NVIDIA (NVDA34), sobretudo à medida que a demanda por inteligência artificial migra do treinamento para a inferência.

Essa leitura, no entanto, ignora como os grandes provedores de nuvem tomam decisões de investimento. O foco não está no preço médio do chip, mas na quantidade de inferência gerada a partir de recursos essencialmente fixos, como energia, refrigeração e espaço físico. Nesse contexto, a métrica central passa a ser o custo total de propriedade ao longo da vida útil do hardware.

Eficiência energética define a competição

A eficiência por watt tornou-se um fator decisivo. Em FP8, formato atualmente predominante na inferência em produção, GPUs da NVIDIA e os principais ASICs dos hyperscalers exibem desempenho semelhante. O cenário muda à medida que a inferência avança para FP4, formato de menor precisão que reduz consumo de energia e memória.

As arquiteturas Blackwell e Rubin contam com suporte nativo a FP4, o que amplia significativamente os TFLOPs por watt. Os principais ASICs hoje produzidos em escala não capturam esses ganhos, o que tende a deslocar a fronteira de eficiência em favor da NVIDIA. Além disso, o ritmo anual de lançamentos mantém a concorrência diante de um alvo móvel, dificultando a convergência tecnológica.

Inferência depende cada vez mais do sistema

Na fronteira de escala, a inferência deixou de ser definida apenas no nível do chip. Modelos de linguagem operam em clusters extensos, nos quais a movimentação de dados se tornou o principal gargalo. Topologia de rede, largura de banda de interconexão, latência e orquestração de memória passaram a ter peso equivalente ao poder de processamento bruto.

Arquiteturas como Mix-of-Experts intensificam essa dependência, ao distribuir tokens entre diferentes especialistas. Nesse ambiente, aceleradores com especificações semelhantes podem apresentar desempenhos muito distintos, dependendo da eficiência do sistema como um todo.

Integração full-stack sustenta a vantagem

A NVIDIA consolidou uma abordagem de plataforma ao codesenhar computação, rede, memória e software em uma única arquitetura. Essa integração permite converter um orçamento fixo de energia em um volume maior de tokens, reduzindo o custo unitário da inferência e ampliando o conjunto de aplicações economicamente viáveis.

Com mais tokens por watt, data centers conseguem monetizar melhor seus ativos físicos e viabilizar casos de uso mais avançados, como raciocínio de longo contexto e fluxos de trabalho agentivos, que exigem maior intensidade computacional.

Software acelera a queda de custos

Grande parte da redução histórica do custo de inferência veio de avanços em software, como melhorias em utilização, quantização, redes e arquitetura de modelos. Por serem plataformas de uso geral, as GPUs incorporam essas inovações diretamente via software, ao longo de toda a base instalada.

Já os ASICs costumam depender de ciclos completos de redesenho para capturar ganhos semelhantes. À medida que a própria inteligência artificial passa a acelerar o ritmo de inovação algorítmica, plataformas programáveis tendem a ganhar ainda mais relevância. Hoje, aceleradores da NVIDIA respondem pela maior parte das citações em pesquisas acadêmicas de IA, criando um ciclo de retroalimentação que favorece seu ecossistema.

Chips próprios complementam, não substituem

O comportamento dos grandes clientes reforça essa dinâmica. Mesmo com investimentos em silício proprietário, empresas como Amazon, Google, Microsoft e Meta seguem expandindo o uso de infraestrutura da NVIDIA, operando ambientes heterogêneos. A adoção de ASICs aparece, em grande medida, como resposta à escassez global de capacidade computacional e à necessidade de diversificação de fornecedores.

Nesse cenário, na visão do Banco Safra, a expansão do silício customizado tende a complementar, e não substituir, as GPUs da NVIDIA, que permanecem como a plataforma portável e generalista em torno da qual essas frotas são estruturadas.