扩展 AI 解决方案

机器学习运维

探索在企业中扩展 AI 和机器学习的下一个前沿领域。

概述

借助 MLOps 加速生产级 AI 和机器学习

机器学习运维 (MLOps) 是一个整体性概念,涵盖核心工具、流程和最佳实践,有助于端到端机器学习系统开发和生产运营。越来越多的企业应用开始采用 AI 技术,这推动了用户对持续交付和自动处理 AI 工作负载的需求。借助 NVIDIA 面向 MLOps 和软件产品与云服务合作伙伴生态系统提供的加速计算解决方案,简化 AI 模型在生产环境中的部署。

MLOps 可进行扩展,以便开发和实施生成式 AI 解决方案 (GenAIOps),管理生成式 AI 模型的整个生命周期。欲详细了解 GenAIOps,请单击此处。

什么是 MLOps?

���器学习运维 (MLOps) 指助力企业组织开发、部署和维护生产级机器学习 (ML) 和 AI 系统的原理、实践、文化和工具。

优势

为企业就绪型 MLOps 赋能

大规模轻松优化 AI 和机器学习工作流。

简化 AI 部署

NVIDIA DGX™-Ready 软件计划提供了企业级 MLOps 解决方案,可加速 AI 工作流,并改善 AI 基础设施的部署、可访问性和利用率。DGX-Ready 软件经过测试和认证,适用于 DGX 系统,可帮助您充分利用 AI 平台投资。

将 AI 部署到生产环境

NVIDIA AI Enterprise 是 NVIDIA AI 平台的软件层,可加速数据科学工作流,并简化生成式 AI、计算机视觉、语音 AI 等生产级 AI 的开发和部署。NVIDIA AI Enterprise 包含超过 100 种框架、预训练模型和开发工具,旨在帮助企业加速采用 AI 前沿技术,并提供具有企业级安全性、可靠性、API 稳定性与支持的企业就绪型 MLOps。

随时随地开展 AI 项目,不受场地限制

加速版 MLOps 基础设施可部署到任何位置 — 从主流 NVIDIA 认证系统™ 和 DGX 系统到公有云,助力您的 AI 项目在当前日益增多的多云和混合云数据中心进行便携式部署。

开启 AI 之旅

借助 NVIDIA Blueprint 启动生成式 AI 项目。企业可以使用 Blueprint、NVIDIA AI 以及 Omniverse 库、SDK 和微服务,构建并实施定制 AI 应用,即创建数据驱动式 AI 飞轮。

解决方案

浏览我们的 AI 企业软件

NVIDIA NIM

  • 加快部署性能经优化的生成式 AI 模型。
  • 利用稳定而安全的 API 运行业务应用,并享受企业级支持。

NVIDIA Blueprint

  • 快速开始使用生成式 AI 用例的参考应用,例如数字人和多模态检索增强生成 (RAG)。
  • Blueprint 包含合作伙伴微服务、一个或多个 AI 智能体、参考代码、定制文档,以及用于部署的 Helm 图表。

NVIDIA NeMo

  • 构建、定制和部署生成式 AI。
  • 交付企业就绪大语言模型 (LLM),提供精确的数据管护、前沿定制、RAG 和加速性能。

用于 LLMOps 的 NVIDIA NeMo

  • 以 API 形式,为数据科学家提供经过全面测试的微调、评估和部署选项。

用例

MLOps 的实际应用

了解 NVIDIA AI Enterprise 如何为行业用例提供支持,并通过精选示例快速开始 AI 开发。

汽车行业 MLOps

汽车行业用例会组合多模态数据 (视频、RADAR/LIDAR、地理空间和遥测数据),并需要进行复杂的预处理和标记,最终目标是构建帮助人类驾驶员在道路和高速公路上更安全高效地通行的系统。

不出所料,汽车机器学习系统面临的诸多挑战均与数据联合、管护、标记以及训练模型在车内的边缘硬件上运行有关。但是,在物理世界中开展运营以及部署到经常断开连接的设备时,还会面临其他一些独特挑战。负责自动驾驶汽车机器学习的数据科学家必须在部署其模型之前模拟其行为,而机器学习工程师必须制定相应策略,以便部署无线更新,并从现场数据中识别普遍存在的问题或数据偏差。

推荐系统 MLOps

在零售、媒体、广告和通用搜索用例等消费者和企业应用中,推荐系统无处不在。此类系统包含多个模型和基于规则的组件;它们还能处理海量数据,并可能造成重大经济影响。

由于推荐系统通常在高度动态的环境中进行部署,检索和评分模型可能需要每天进行多次重新训练,因此,数据科学家通常需要确定如何调整模型性能,以更大限度地满足业务指标。由于整个系统依赖于已训练模型 (用于查找相关建议并对筛选列表评分) 与业务规则 (用于筛选非相关建议并对最终结果排序) 之间的交互,因此这一过程会更为复杂。

有鉴于此,数据科学家需要灵活的环境,以便设计和跟踪实验,测试假设,并定义指标以在生产环境中进行监测。机器学习工程师需要工具来定义、执行和监控训练工作流,以及监测整体系统性能。

客户案例

行业领导者如何集成 NVIDIA MLOps?

Securiti 借助 NVIDIA NIM,助力企业组织构建安全的高性能企业 AI 系统

Securiti 在 Money 20/20 上宣布,已将 NVIDIA NIM 集成到其 Securiti Gencore AI 解决方案中。此举将为金融服务等行业的用户赋能,助力他们更轻松快捷地构建安全的企业级生成式 AI 系统、协作助手和 AI 智能体,从而在各种数据系统和应用中安全利用企业专有数据。

Dataiku 借助 NVIDIA 加速企业就绪型 AI 和分析

借助 Dataiku 和 NVIDIA 解决方案,任何团队成员都可以充分利用 AI 功能,并与他人协作,进而交付更多项目。通过 Dataiku 的无代码、基于代码的数据科学功能以及强大的 AutoML,各种水平的从业者均可获取最能满足其需求的模型,并为代码笔记本、IDE 和 CI/CD 工具提供无缝支持。

JFrog 携手 NVIDIA,借助 NVIDIA NIM 交付安全的 AI 模型

JFrog Artifactory 提供了单一解决方案,以用于在整个软件供应链中存放和管理所有构件、二进制文件、软件包、文件、容器和组件。JFrog 平台与 NVIDIA NIM 集成后,预计可将容器化 AI 模型以软件包形式集成到现有软件开发工作流中。

各行各业的主要采用者

资源

NVIDIA MLOps 最新动态

企业 MLOps 入门

随着 AI 领域的蓬勃发展,在计算硬件层和 AI 框架优化方面,用户对 AI 基础设施提出了更高的需求,以便充分利用加速计算。

借助 MLOps 扩展 AI

从改善客户服务到加速癌症研究,AI 正对各行各业产生影响。了解开发高效 MLOps 平台的最佳实践。

提升大型语言模型 (LLM) 技能

充分利用我们提供的全面 LLM 学习路径,从基础知识到高级主题,以及由 NVIDIA 专家开发和交付的实战培训。您可以灵活选择自主培训课程,或参加讲师指导的培训班,以获取能力证书。

在生产环境中使用 NVIDIA NIM 部署生成式 AI

借助 NVIDIA NIM 释放生成式 AI 的潜力。此视频详细介绍了 NVIDIA NIM 如何将 AI 部署转变为生产就绪型强大引擎。

新一代 AI 和 MLOps

黄仁勋分享了 NVIDIA 从游戏向深度学习加速扩展背后的故事、他在过去数十年获取的领导力经验教训以及 MLOps 的重要性。

利用定制 AI 模型提高企业生产力

了解企业如何通过将其 AI 应用连接到专有数据,利用 NVIDIA NeMo 语言服务来充分利用定制 LLM 的优势。

后续步骤

准备好开始了吗?

获取开始开发对话式 AI 应用所需的一切项目,包括最新文档、教程、技术博客等。

保持联系

与 NVIDIA 产品专家交流,了解如何借助 NVIDIA AI Enterprise 的安全性、API 稳定性和支持,从试运行进入生产阶段。

获取有关 NVIDIA AI 的最新信息

注册以接收 NVIDIA 发布的最新资讯与动态。