ネットワークが AI データセンターを定義する

高性能で拡張性のある安全なギガスケール AI ファクトリー向けの次世代ネットワーキング。

はじめに

AI ファクトリー時代に特化したネットワーク

現在、数万基の GPU まで広がり、まもなく数百万基に達する見込みとなる AI ファクトリーは、単一の分散コンピューティング エンジンとして稼働しています。アクセラレーターを最大限に活用し続けるために、AI ワークロードには確定的な遅延、ロスレスのスループット、安定したイテレーション時間、データセンター内だけでなく複数のサイトにわたる拡張能力が求められます。

NVIDIA ネットワーキングは、NVIDIA NVLink™ スケールアップ、NVIDIA Quantum InfiniBandSpectrum-X™ イーサネット スケールアウト、Spectrum-XGS マルチデータセンター スケールアクロス、インフラストラクチャ サービス向けの NVIDIA® BlueField® DPUDOCA™、次世代シリコンフォトニクス プラットフォームを組み合わせて、これを可能にするフルスタック ファブリックを提供し、世界最先端の AI ファクトリーを強化します。

NVIDIA Rubin プラットフォームの内部: 6 つの新チップと AI スーパーコンピューター

Spectrum-6、BlueField-4、ConnectX®-9 が、Rubin プラットフォームのエクストリーム コデザインの基盤をどのように構成するかをご覧ください。

NVIDIA Vera Rubin POD: 1 台の AI スーパーコンピューター、5 つのラックスケール システム

統合されたMGXアーキテクチャにより、オペレーターが柔軟で交換可能な相互接続を使用して、エージェントアプリ向けのカスタム AI ファクトリーを迅速に拡張する方法について説明します。

AI factory operating system powered by NVIDIA BlueField-4 DPUs

NVIDIA、AI ファクトリーのオペレーティング システム向けプロセッサ BlueField-4 を発表

テクノロジ

NVIDIA AI ネットワーキングを定義するイノベーション

NVIDIA は、GPU、SuperNIC™、DPU、スイッチ、オプティクス、ソフトウェアを組み合わせて徹底的に共同設計されたアーキテクチャに統合してネットワークを構築し、大規模な環境において妥協のない予測可能なパフォーマンスを提供します。

AI 向け高速イーサネット ネットワーク

NVIDIA Spectrum-X Ethernet プラットフォームは AI 専用に設計されており、既製のイーサネット (OTS: Off-The-Shelf) と比較して 1.6 倍のネットワーク パフォーマンスを提供します。Spectrum-XGS Ethernet のスケールアクロス技術により、ラック、建物、キャンパス全体にまたがる高性能 AI ファブリックの構築が可能になります。

AI と科学コンピューティングのための InfiniBand

超低遅延、In-Network Computing、次世代シリコンフォトニクスの CPO システムにより、NVIDIA Quantum InfiniBand アーキテクチャは、AI と HPC に業界最速で最もスケーラブルなネットワーキングを提供します。

データ センター インフラ向けアクセラレーテッド コンピューティング

NVIDIA BlueField プラットフォームは、高速ネットワークと強力なコンピューティングを融合し、データ センター インフラを加速します。これにより、世界中の AI データ センターにおいて、新たなレベルのパフォーマンス、効率、セキュリティを実現します。

利点

AI ファクトリー向けのアクセラレーテッド ネットワーク

アクセラレーテッド パフォーマンス

NVIDIA ネットワーキングは、アクセラレーター向けに最適化されたフルスタックのファブリックを提供することで、後続の遅延を最小化し、イテレーション時間を安定化させ、トレーニングと推論全体で GPU を最大限に活用し続けます。

ギガスケール

NVIDIA ネットワーキングは、高基数スイッチ、コパッケージド オプティクス、Spectrum-XGS イーサネット テクノロジで施設を 1 つの高性能 AI ファブリックに統合するギガスケールの成長を実現します。

セキュリティと可視性

データの可視化はあらゆるデータ センターにとって不可欠なセキュリティ機能であり、NVIDIA のネットワーク ソリュー��ョンは、セキュリティを強化し、データ センターの自動化を容易にし、ネットワークを完全に可視化します。

オーケストレーション

NetQ、UFM、DOCA といった拡張性が高い現代のネットワーク運用フレームワークは、ネットワーク テレメトリを活用し、AI を用いたサイバー インテリジェンスと分析を提供することで、AI ネットワーク ファブリックが円滑に運用できるよう支援します。

シミュレーション

NVIDIA DSX Air を活用して、データ センター ネットワークのデジタル ツインを構築しましょう。NVIDIA DSX Air は、ネットワークのプロビジョニング、自動化、セキュリティ ポリシーの設計、テストおよび検証を行うためのクラウドにホストされた仮想環境です。

インフラの効率化

NVIDIA の高速ネットワークは、省電力設計、コパッケージド オプティクスによる最適化された接続性、そしてインテリジェントなインネットワーク内処理を通じて効率的なインフラを実現します。

ニュース

ネットワーキングの最新情報

NVIDIA、AI 産業革命における知性の飛躍的変革を促進する Rubin プラットフォームを発表

NVIDIA Spectrum-X Ethernet フォトニクス スイッチ システムは、5 倍の電力効率とアップタイムを実現します。NVIDIA BlueField-4 ストレージ プロセッサを搭載した新しい NVIDIA コンテキスト メモリ プラットフォームにより、AI 推論のための推論処理を加速。

NVIDIA BlueField-4 が AI の新たなフロンティアを推進

NVIDIA BlueField-4 は、ギガスケールのエージェント型推論を高速化し拡張するために設計された新しいクラスの AI ネイティブ ストレージ インフラである Context Memory Extension (CME) を支えています。

NVIDIA Spectrum-X Ethernet が Meta、Microsoft、Oracle のネットワークを高速化

ハイパースケーラー各社は、NVIDIA のオープンなネットワーク プラットフォームを採用し、ギガスケール AI データ センターの性能向上を推進しています。

NVIDIA Spectrum-XGS Ethernet がギガスケール AI 向けのデータセンターを接続

Spectrum-XGS Ethernet は、分散したデータ センターを統合し、1.9 倍の NVIDIA Collective Communications Library (NCCL) 性能を実現することで AI スーパー ファクトリーへと変革します。

関連情報

NVIDIA ネットワーキング関連情報