NVIDIA Vera Rubin NVL72

NVIDIA Vera Rubin NVL72 offre fino a 10 volte più token per megawatt rispetto a NVIDIA GB200 NVL72, scalando l'intelligenza con lo stesso impatto energetico.

Prestazioni di inferenza LLM soggette a modifiche. Token al secondo per MW basati sul modello di pensiero Kimi-K2 che utilizza 32K/8K ISL/OSL che confronta NVIDIA GB200 NVL72 e NVIDIA Vera Rubin NVL72.

I sistemi agentici consumano fino a 15 volte più token rispetto alle applicazioni IA tradizionali. Le fabbriche IA devono offrire un volume di token ed enormi finestre contestuali con bassa latenza ed efficienza economica. In combinazione con LPX, Vera Rubin NVL72 offre un throughput per megawatt fino a 35 volte superiore per i modelli da mille miliardi di parametri.

Prestazioni previste soggette a modifica. A - Livello gratuito ($0): modello Qwen-3 da 235 miliardi di parametri con 32K token memorizzati in cache del valore chiave (KV). B - Livello medio ($3): modello Kimi K2.5 da 1 bilione di parametri con 128K token in cache KV. C - Livello alto ($6): modello GPT-MoE da 2 bilioni di parametri con 128K token memorizzati in cache KV. Livelli D - Premium ($45) e E - Ultra ($150): modello GPT-MoE da 2 bilioni di parametri con 400K token memorizzati in cache KV