Les benchmarks MLPerf™ sont conçus pour fournir des évaluations impartiales des performances d'entraînement et d'inférence pour le matériel, les logiciels et les services. Développées par MLCommons, un consortium de leaders de l'IA issus du monde académique, des laboratoires de recherche et de l'industrie, ces évaluations sont toutes menées selon des conditions prédéfinies. MLPerf évolue de manière continue en réalisant de nouveaux tests à intervalles réguliers et en intégrant de nouvelles charges de travail qui suivent les dernières évolutions de l'IA pour rester à la pointe des dernières tendances du secteur.
MLPerf Inference v6.1 mesure les performances d'inférence sur une grande variété d'architectures de modèles, notamment les grands modèles de langage (LLM) denses et MoE (Mixture of Expert), les modèles de langage de vision, les modèles de texte vers la vidéo, les systèmes de recommandation génératifs et bien plus encore.
MLPerf Training v6.0 mesure le temps nécessaire à l'entraînement de modèles pour atteindre un niveau de qualité spécifique sur divers types de modèles, notamment les LLM, les systèmes de conversion de texte à l'image et les systèmes de recommandation.
La plateforme NVIDIA s’est distinguée en offrant le temps d’entraînement le plus rapide ainsi que les meilleures performances par GPU dans les benchmarks MLPerf Training v6. Dans le cadre de cette phase de test, NVIDIA a soumis les résultats des deux systèmes GB200 NVL72 et GB300 NVL72. À la même échelle, GB300 NVL72 a permis un entraînement jusqu'à 1,6 fois plus rapide que GB200 NVL72. Cette phase a permis d'ajouter deux nouvelles charges de travail de pré-entraînement MoE, à savoir DeepSeek-V3 671B et GPT-OSS-20B, NVIDIA ayant établi des records de performance pour les deux. Sur DeepSeek-V3 671B, NVIDIA est passée à 8 192 GPU à l'aide des systèmes GB200 NVL72, ce qui constitue à ce jour la plus importante soumission basée sur NVIDIA Blackwell dans le cadre de MLPerf Training.
Résultats des tests MLPerfTraining v5.0, v5.1 et v6.0 récupérés sur www.mlcommons.org le 16 juin 2026. Résultats à l'échelle des GPU MLPerf pour les modèles 5.0-0004, 5.1-004, 6.0-0001, 6.0-0005 et 6.0-0014. Comparaison des entraînements MLPerf Blackwell à partir des entrées suivantes : 6.0-0006, 6.0-0013, 6.0-0017, 6.0-0018, 6.0-0078 et 5.1-0072. Le nom et le logo de MLPerf sont des marques déposées et non déposées de MLCommons Association aux États-Unis et dans d’autres pays. Tous droits réservés. Utilisation non autorisée strictement interdite. Rendez-vous sur www.mlcommons.org pour en savoir plus.
La plateforme de NVIDIA a fourni le temps d'entraînement le plus rapide sur chaque benchmark MLPerf Training v6, avec des innovations au niveau des puces, des systèmes et des logiciels, qui lui ont permis de conserver son leadership en matière de performances d'entraînement, comme le montrent les données de performances standardisées et examinées par les pairs.
| Benchmark | Durée d’entraînement |
|---|---|
| DeepSeek-v3 671B | 2,02 minutes |
| GPT-OSS-20B | 7,43 minutes |
| Llama 3.1 405B | 7,07 minutes |
| Llama 2 70B LoRA | 0,40 minute |
| Llama 3.1 8B | 4,46 minutes |
| FLUX.1 | 17,1 minutes |
| DLRM-DCNv2 | 0,67 minute |
Données de MLPerf™ Training v6.0 récupérées sur www.mlcommons.org le 16 juin 2026 à partir des entrées suivantes : 6.0-0005, 6.0-0102, 6.0-0001, 6.0-0102, 6.0-0015, 6.0-0101 et 6.0-0062. Le nom et le logo MLPerf sont des marques commerciales de MLCommons Association aux États-Unis et dans d'autres pays. Tous droits réservés. Utilisation non autorisée strictement interdite. Rendez-vous sur www.mlcommons.org pour en savoir plus.
Trois facteurs sont essentiels à l'économie de l'inférence de l'IA : les performances système, l'efficacité de la mise à l'échelle de l'infrastructure et l'optimisation logicielle continue. Des performances plus élevées signifient davantage de jetons générés, ce qui contribue à produire des revenus plus importants. Une mise à l'échelle efficace signifie que le débit augmente proportionnellement à l'intégration de composants matériels, en nécessitant moins de ressources pour servir les utilisateurs. L'optimisation continue permet de générer davantage de valeur à partir des infrastructures déjà déployées.
La plateforme de NVIDIA a été spécialement conçue pour agir sur ces trois facteurs, et les résultats enregistrés dans MLPerf Inference v6.1 démontrent comment :
Les performances, l'efficacité de la mise à l'échelle et la réactivité logicielle déterminent conjointement l'économie des infrastructures d'IA sur le long terme.
MLPerf Inference v6.1, Closed Division. Résultats récupérés sur www.mlcommons.org le 16 septembre 2026. Résultats de la plateforme de NVIDIA issus des entrées suivantes : 6.1-0106, 6.1-0073 et 6.1-0074. Le nom et le logo de MLPerf sont des marques déposées et non déposées de MLCommons Association aux États-Unis et dans d’autres pays. Tous droits réservés. Utilisation non autorisée strictement interdite. Rendez-vous sur www.mlcommons.org pour en savoir plus.
La complexité grandissante des nouvelles demandes de l’IA requiert une intégration étroite entre tous les aspects de la plate-forme. Comme nous l’avons démontré avec les résultats de benchmark de MLPerf, la plate-forme d’IA de NVIDIA offre des performances record avec le GPU le plus avancé au monde, des technologies d’interconnexion puissantes et évolutives ainsi que des logiciels de pointe, qui forment une solution avancée de bout en bout aux résultats exceptionnels pouvant être déployée dans le Data Center, dans le Cloud ou sur l’Edge.
NVIDIA Dynamo est un framework de service d'inférence distribué open source dédié au déploiement des modèles dans des environnements multi-nœuds à l'échelle d'une usine d'IA. Il rationalise le traitement distribué en désagrégant l'inférence, en optimisant le routage et en étendant la mémoire via la mise en cache des données vers des couches de stockage rentables.
Dynamo fonctionne en désagrégant (séparant) les phases de pré-remplissage et de décodage de l'inférence LLM sur différents GPU, ce qui permet une optimisation indépendante et un débit plus élevé. Il a été mis en évidence dans les benchmarks d'inférence MLPerf v5.1, démontrant des performances supérieures dans les tests de raisonnement Llama 3.1 405B Interactive et DeepSeek-R1.
L’obtention de résultats probants pour l’entraînement et l’inférence requiert une infrastructure spécifiquement conçue pour répondre aux défis les plus complexes au monde en matière d’IA. La plateforme d'IA de NVIDIA a offert des performances de pointe alimentées par les plateformes NVIDIA Blackwell et Blackwell Ultra, notamment les systèmes de mise en réseau évolutifs NVIDIA GB300 NVL72 et GB200 NVL72, NVLink et NVLink Switch, NVIDIA Quantum InfiniBand et NVIDIA Spectrum-X Ethernet. Celles-ci sont au cœur des usines d'IA alimentées par la plate-forme de Data Center de NVIDIA, moteur de nos performances de benchmark.
Les systèmes NVIDIA DGX™ offrent une évolutivité élevée, un déploiement rapide et une puissance de calcul exceptionnelle qui permettent à toutes les entreprises de concevoir des infrastructures d’IA à la pointe de la technologie.
En savoir plus sur nos performances d'entrainement et d'inférence de Data Center.