云计算解决方案

Perplexity 使用 AWS 上的 NVIDIA 加速计算平台来支持 AI 训练和推理。

该公司利用亚马逊 SageMaker HyperPod (由 NVIDIA GPU 加速) 将模型训练时间缩短了高达 40%。在高峰期，它使用 Amazon EC2 P5 实例，通过 NVIDIA Hopper™ GPU 和 NVIDIA GPU 优化软件加速，可为 10,000 个并发用户和每小时 100,000 个查询提供近乎实时的推理。

宝马利用 NVIDIA AI 和 Azure 机器学习技术改造了其电动汽车生产系统，实现了实时、AI 驱动的自动化检测，从而显著提高了电动驱动系统制造的质量控制和运营效率。

Writer 是一个面向企业的全栈生成式 AI 平台，它利用 GKE 上的 NVIDIA H100 和 L4 Tensor Core GPU，结合 NVIDIA NeMo™ 框架和 TensorRT-LLM，训练和部署了超过 17 个大语言模型，这些模型可扩展到 700 亿个参数。

Beamr 使用 OCI 上的 NVIDIA L40S GPU 进行加速视频处理，视频编码效率提高了 30%。

A-Alpha Bio 使用 AWS 上的 NVIDIA BioNeMo™ 和 NVIDIA Hopper GPU 来加速抗体药物的发现。

该公司推理速度提高了 12 倍，预测能力提高了 10 倍，从而获得了更高质量的候选药物。

塑料回收创新企业 Encina 利用微软 Azure、CPFD Software 和 NVIDIA 加速计算来应对气候变化，其模拟运行速度比基于 CPU 的方法快 506 倍，从而显著降低成本并加速下一代回收设施的设计。这一计算技术的飞跃使 Encina 能够彻底改变可持续塑料回收利用的方式，并为全球减少塑料垃圾和碳排放的努力做出贡献。

LiveX AI 在 Google Kubernetes Engine 上利用 NVIDIA NIM 微服务和 NVIDIA GPU 的强大能力，实现了平均 Token 速度提升 6.1 倍。这项增强功能使 LiveX AI 能够实时为客户提供个性化体验，包括无缝的客户支持、即时产品推荐和减少退货。

Modal Labs 使用 OCI 上由 NVIDIA GPU 加速的多种裸金属服务器，在启动客户要求严苛的生成式 AI 工作负载时能够快速扩展资源。