機密 AI 解決方案

NVIDIA 機密運算

保護專有模型與敏感資料

概覽

保護使用中的模型與資料

各組織紛紛採用代理 AI 來提升生產力、改善業務成果,一個關鍵問題隨之浮上檯面,那便是在推論與微調過程中保護敏感資料與模型。企業資料極易受到潛在威脅的影響,這些威脅可能會損害其完整性與機密性。NVIDIA 機密運算現已進入第三代,採用 NVIDIA Rubin 架構,持續推動 AI 發展,不僅使用的資料與模型十分安全,效能甚至能比擬未加密模型。透過 NVIDIA 機密運算,企業不僅可運用 AI 挖掘敏感資料的價值、提供革命性深入解析,還能保證資料和模型的安全,使其既符合標準又不會受到損害。

機密運算的使用方式

機密計算實施了有助於保護使用中資料的技術。在這份 Linux 基金會報告中,瞭解 AI 將如何把握未來機遇,以及各組織會如何利用機密運算保護這些工作負載。

優勢

機密運算保護著每項 AI 工作負載

探索企業如何利用 NVIDIA 機密運算保護 AI 堆疊。

保障使用中的模型與資料

有了 NVLink,NVIDIA Vera Rubin NVL72 便擁有了機架級機密運算能力,可利用高速、低延遲擴充打造涵蓋 72 顆 NVIDIA Rubin GPU、36 顆 NVIDIA Vera CPU 和互連技術的統一安全網域。它能保護 GPU 執行、記憶體和暫存器狀態,同時在整個 AI 生命週期中確保模型、訓練資料及推論提示處於隔離狀態。

高效能 AI 安全

NVIDIA 機密運算讓部署於 Rubin、Blackwell 和 Hopper GPU 的 AI 模型兼顧機密性和完整性。Vera Rubin NVL72 獲得 NVLink 和 NVLink-C2C 支援,實現機架級幾近未加密狀態的高效能。此設計能在大規模環境中安全執行敏感 AI 工作負載,即使在共用/雲端環境中,也能以近乎原生的效能運作。

無程式碼變更

Hopper、Blackwell 和 Rubin GPU 上的 NVIDIA 機密運算可讓企業在不變更程式碼的情況下,快速將任何模型移至受保護的隔離區。只需識別需要保護的工作負載,並藉由幾次按鍵操作,即可確保這些工作負載的安全。

裝置認證可驗證性

零信任架構支援硬體信任根認證,驗證運算資產的可信度。保持合規,並確保在可信賴執行環境 (TEE) 中利用 Vera Rubin 平台、Blackwell 和 Hopper GPU,保護應用程式與資料的安全,無論平台或工作負載在何處執行。

產品

透過 NVIDIA 執行機密運算

如今,無論資料位於何處,都可能實現 AI 安全並滿足與資料主權相關的必要事項。無論資料與模型是放在雲端、混合式雲端還是本機,NVIDIA 都是保護這些 AI 系統的可靠基礎。

保護內部部署或混合式雲端資料

對於在本機資料中心或混合式雲端環境執行的 AI 工作負載,NVIDIA 機密運算為組織提供工具,以高效能保護著每項工作負載。

保護雲端資料

NVIDIA 機密運算現正透過雲端服務供應商提供。點擊下方,瞭解如何快速保護 AI 工作負載。

可驗證的安全性

NVIDIA 遠端認證服務的機密運算能力基礎便是穩定機制,這項機制能確保可信賴執行環境 (TEE) 中裝置與平台的完整性、安全性與可驗證性。

使用案例

探索客戶與合作夥伴成功案例

探索醫療照護、金融服務、製造業和政府部門的主要組織如何利用 NVIDIA 機密運算革新安全措施,這款尖端技術可在使用資料時保護敏感工作負載。

適用於 AI 模型、提示與權重保護的機密容器

企業透過結合機密虛擬機與 NVIDIA GPU 以及安全沙盒,使用 Privatemode.ai 等生成式 AI 架構,持續執行加密提示。

公家部門部署快速安全的資料保護

在一小時內部署安全的 LLM,並在各個資料孤島安心共享。瞭解如何利用 NVIDIA 基礎技術,安全順暢地共享資料,同時快速測試、保護、部署與執行即時程式碼。

透過安全的多方協作,實現藥物研發的製藥進展

Fortanix 提供機密運算平台,讓 Xeureka 等組織能夠管理安全原則,並協調隔離機密資料集,實現臨床進展。

資源

推進理解

透過探索我們的部落格、訓練影片、專家會面紀錄以及 GTC 演講,深入瞭解 NVIDIA 機密運算。

Intel、Azure、AMD 與 NVIDIA 的機密運算影響

技術長參與機密運算、常見使用案例、技術挑戰及驗證的座談會,並預測這項技術的未來,尤其是 AI 趨勢,該座談會由 Felix Schuster (Edgeless Systems 執行長) 主持。

在 NVIDIA GPU 上執行高效能機密運算

安全專家、NVIDIA 資深總監與傑出架構師分享高效能機密運算的相關演講。

在 Microsoft Azure 上執行 NVIDIA GPU 支援的機密運算

在這次快速對談中,Azure 技術長暨 Microsoft 技術研究員 Mark Russinovich 和 NVIDIA 軟體安全副總裁 Daniel Rohrer,加入 Dark Reading 的 Terry Sweeney。

機密運算提升雲端安全與隱私

Mark Russinovich 在 CC Summit 發表主題演講:「機密運算:提升雲端安全與隱私」。

採用者

利用機密運算推動各產業發展

後續步驟

準備好開始了嗎?

立即在由 NVIDIA 機密運算支援的可信任執行環境中保護資料。

Azure 雲端服務

若您的資料儲存在 Microsoft Azure 雲端,請使用機密運算功能保護使用中的資料。

Google 雲端服務

Cloud,請利用 Google Cloud 中的機密運算功能保護使用中的資料。