NVIDIA NVLink Fusion
업계에서 검증된 AI 스케일업 성능과 랙스케일 아키텍처를 갖춘 세미 커스텀 AI 인프라.
개요
NVLink Fusion을 활용한 세미 커스텀 AI 팩토리
NVIDIA NVLink™ Fusion은 하이퍼스케일러와 AI 네이티브 기업이 맞춤형 XPU와 CPU를 NVIDIA의 세계 최고 수준 AI 인프라 플랫폼에 배치할 수 있도록 지원하는 고대역폭, 저지연 연결 기술이자 IP입니다. NVIDIA의 검증된 스케일 업 및 스케일 아웃 기술 스택과 생태계, 그리고 MGX™ 랙 스케일 아키텍처를 활용하여 세미 맞춤형 AI 팩토리를 위한 개발 복잡성을 줄이고 성능을 높이며, 제품 출시까지의 시간을 단축시키세요. 단일 통합 아키텍처로 표준화함으로써 NVLink Fusion은 데이터 센터 전반의 운영을 간소화하고, 데이터 센터 용량을 유연하게 재할당할 수 있게 해주며, 맞춤형 XPU가 GPU와 이기종 컴퓨팅 환경에서 매끄럽게 통합되도록 합니다.
장점
NVLink Fusion의 이점
세계적 수준의 스케일업 성능
AI 팩토리의 잠재력을 최대한 활용하려면 모든 가속기 간에 빠르고 원활한 통신이 필요합니다. NVIDIA NVLink 6는 XPU당 3.6TB/s의 속도로 72개의 XPU를 올투올로 연결할 수 있으며, 최대 1,152개의 도메인 크기를 포함한 향후 로드맵 구성과 함께 AI 성능을 향상시키고 투자 수익을 높일 수 있습니다.
프로덕션 검증된 기술 생태계와 공급망
XPU 설계 파트너, CPU 파트너, IP 공급업체를 포함한 포괄적인 NVLink Fusion 기술 생태계는 하이퍼스케일러와 AI 네이티브 기업이 XPU 설계를 최적화하고 개발을 효율화하는 데 도움을 줍니다. MGX 생태계는 포괄적인 랙 스케일 아키텍처를 제공하고, 도입 기업의 하이퍼스케일러를 NVIDIA 자체 MGX 기반 시스템에 사용되는 것과 동일한 검증된 공급망에 연결해 줌으로써, 신규 랙 설계와 공급업체 관리의 복잡성을 제거하고 시장 출시까지의 시간을 단축합니다.
유연한 재할당 및 배포 리스크 완화
MGX 랙 아키텍처를 도입하는 핵심 이점 중 하나는, XPU 및 GPU 기반 시스템(예: Vera Rubin NVL72)을 동일한 데이터 센터 내에 손쉽게 설계해 넣을 수 있고, 동일한 랙과 랙 설치 공간, 네트워킹, 냉각, 전력 공급, 관리 시스템을 공유할 수 있다는 점입니다. 이 통합된 접근 방식은 NVLink Fusion 도입 기업이 데이터 센터 설계 및 구축을 실리콘 준비 상태와 공급 상황으로부터 분리할 수 있도록 해 주며, 요구 사항이 변화함에 따라 XPU 기반 시스템과 GPU 기반 시스템의 구성을 달리하여 데이터 센터 용량을 손쉽게 재할당할 수 있게 합니다.
이기종 AI 인프라를 위한 통합 아키텍처
NVLink Fusion 도입 기업은 동일한 데이터 센터에 다양한 유형의 XPU 또는 XPU와 GPU를 배포하여 분리된 추론 및 기타 비대칭 워크로드를 위한 이기종 컴퓨팅을 할 수 있습니다.
그 결과, 어떤 회사도 단독으로 구축할 수 없었던 단일 세미 커스텀 AI 팩토리가 완성됩니다.
플랫폼
NVIDIA NVLink Fusion 기술
NVIDIA NVLink
NVIDIA NVLink 6 및 NVLink Switch 칩은 하나의 72개 가속기 NVLink 도메인(NVL72)에서 260TB/s의 대역폭을 지원하며, NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol(SHARP)™ FP8 지원으로 4배의 대역폭 효율성을 제공합니다.
NVIDIA NVLink-C2C
NVIDIA NVLink-C2C는 업계 최고의 NVIDIA® NVLink® 기술을 칩 간 인터커넥트로 확장합니다. 이를 통해 칩렛(chiplet) 방식을 활용하여 NVIDIA 파트너와 함께 새로운 유형의 통합 제품을 만들어, NVIDIA GPU나 CPU가 맞춤형 실리콘과 고대역폭의 코히어런트 연결을 갖도록 할 수 있습니다.
AI 인프라 플랫폼
NVIDIA는 NVIDIA GPU, NVIDIA Vera CPU, 코패키지드 옵틱스(CPO) 스위치, ConnectX® SuperNIC™, BlueField® DPU, AI 워크플로 최적화 및 AI 인프라 관리를 위한 Mission Control™ 소프트웨어를 포함한 모듈형 AI 팩토리 기술 포트폴리오를 제공합니다..
세미 커스 AI 팩토리 통합을 위해, 전체 랙 단위 솔루션도 제공됩니다. 여기에는 분리형 추론을 위해 XPU 기반 시스템과 혼합하여 구성할 수 있는 Vera Rubin NVL72 랙, 에이전틱 AI 시스템과 강화 학습을 지원하는 Vera CPU 랙, 고컨텍스트·저지연 추론을 지원하는 NVIDIA LPX 랙, AI 네이티브 스토리지를 위한 NVIDIA STX 랙, 스케일아웃 네트워킹을 위한 NVIDIA SPX 랙이 포함됩니다.
채택 업체
NVLink Fusion 에코시스템
-
CPU 파트너
-
맞춤 실리콘 파트너
-
기술 파트너
-
광학 인터커넥트 파트너
NVLink Fusion을 활용 AI 추론 성능 확장
NVIDIA NVLink Fusion이 복잡한 AI 모델의 증가하는 수요를 어떻게 해결하는지 알아보세요.
