NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的生成式 AI Foundry 服务

SAP、Amdocs、Getty Images 率先使用 NVIDIA AI Foundation Models构建自定义 LLM、在 NVIDIA DGX 云上进行训练，并使用 NVIDIA AI Enterprise 软件进行部署

NVIDIA 于今日推出一项 AI foundry 服务，助力企业和初创公司在 Microsoft Azure 上开发、调优和部署其自定义生成式 AI 应用。

这项 NVIDIA AI foundry 服务整合了NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具，以及NVIDIA DGX 云AI 超算服务三大要素，为企业提供创建自定义生成式 AI 模型的端到端解决方案，并且支持企业使用NVIDIA AI Enterprise软件部署其定制模型，以支持生成式 AI 应用，包括智能搜索、摘要和内容生成。

行业领导者 SAP SE、Amdocs 和 Getty Images 率先使用了这项服务来构建自定义模型。

NVIDIA 创始人兼首席执行官黄仁勋表示：“企业需要自定义模型来执行基于公司专有 DNA （即数据）训练的专业技能。NVIDIA 的 AI foundry 服务整合了我们的生成式 AI 模型技术、LLM 训练的专业知识和超大型 AI 工厂。我们在 Microsoft Azure 中构建这项服务，使全世界的企业都能够将他们的自定义模型与微软全球领先的云服务进行连接。”

微软公司董事长兼首席执行官 Satya Nadella 表示：“从芯片到软件，我们与 NVIDIA 的合作涵盖了 Copilot 堆栈的每一层，双方正在这个 AI 新时代共同创新。借助 NVIDIA 在 Microsoft Azure 上提供的生成式 AI foundry 服务，我们将为企业和初创公司提供新的功能，方便他们在云上构建和部署 AI 应用。”

行业领导者构建量身定制

且响应及时的 LLM

NVIDIA 的 AI foundry 服务可用于为企业软件、电信、媒体等各个行业的生成式 AI 应用定制模型。在部署就绪后，企业就可以使用一种名为检索增强生成（RAG）的技术将其自定义模型与企业数据连接，从而获得新的洞察。

作为 Microsoft Azure 上 NVIDIA DGX 云的首家客户，SAP 计划使用该服务和经过优化的 RAG 工作流，以及在 Azure 上运行的 NVIDIA DGX 云和 NVIDIA AI Enterprise 软件，以帮助自定义和部署其全新的自然语言生成式 AI 智能副驾—— Joule。

SAP SE 首席执行官兼执行董事会成员 Christian Klein 表示：“Joule 秉承了 SAP 融合业务和技术领域的独有定位，并建立在与之相关、可靠且负责的 Business AI 基础之上。通过与 NVIDIA 合作，Joule 可以通过自动执行耗时的任务并快速分析数据，来提供更智能和个性化的体验，帮助客户从而挖掘生成式 AI 在其业务中的潜力。”

Amdocs 是一家面向电信和媒体公司的领先软件与服务提供商，该公司正在为 Amdocs amAIz 框架优化模型，以加快全球电信公司采用生成式 AI 应用和服务的速度。

Amdocs 总裁兼首席执行官 Shuky Sheffer 表示：“生成式 AI 技术为服务提供商带来了一次绝佳的机会，可以重塑他们与客户互动的方式。在 NVIDIA 和微软技术的加持下，Amdocs amAlz 框架将更快地为客户带来由生成式 AI 驱动的新应用，并提供企业级的安全性、可靠性和性能，使其能够从生成式 AI 的巨大潜力中获益。”

用于自定义生成式 AI 的

精选优化模型

使用 NVIDIA Foundry 服务的客户可从多个 NVIDIA AI Foundation 模型中进行选择，包括托管在 Azure AI 模型目录中的全新系列NVIDIA Nemotron-3 8B模型。开发者还可以访问NVIDIA NGC 目录中的 Nemotron-3 8B 模型，以及专为 NVIDIA 加速计算优化的各种社区模型（如 Meta 的 Llama 2），这些社区模型也即将被添加到 Azure AI 模型目录中。

Nemotron-3 8B 系列经过 80 亿个参数优化，其包含针对不同用例进行调整的版本，并具有构建自定义企业生成式 AI 应用的多语言功能。

NVIDIA DGX 云现已在

Microsoft Azure Marketplace 上架

NVIDIA DGX 云 AI 超算服务已在 Azure Marketplace（https://azuremarketplace.microsoft.com/en-US/marketplace/apps/nvidia.dgx-cloud?ocid=GTMRewards_WhatsNewBlog_dgx-cloud_10272023）上架。该服务提供客户可租用的实例，可扩展至数千颗 NVIDIA Tensor Core GPU，并附带包括 NeMo 在内的 NVIDIA AI Enterprise 软件以加速 LLM 的定制化。

Azure Marketplace 新上架的 DGX 云还支持 Azure 客户使用其现有的 Microsoft Azure 消费承诺额度，来兑换 NVIDIA AI 超算服务和软件，以加快其模型开发速度。

NVIDIA AI Enterprise 软件现已集成到 Azure 机器学习中，为其添加了 NVIDIA 安全、稳定且具支持性的 AI 和数据科学软件平台。Azure 的企业级 AI 服务也添加了 NeMo 和 NVIDIA Triton 推理服务器。

NVIDIA AI Enterprise 也已在 Azure Marketplace（https://azuremarketplace.microsoft.com/en-us/marketplace/apps/nvidia.nvidia-ai-enterprise）上架，为全球企业提供了广泛的生产就绪型 AI 开发和自定义生成式 AI 应用部署的选择。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行，线上大会也将同期开放。扫描下方海报二维码，立即注册 GTC 大会。