NVIDIA技术助力企业创建主权AI智能体

AI Factory 的经验证设计将加速基础设施与软件（包括全新 NVIDIA NIM 微服务和经扩展的 NVIDIA Blueprint）相结合，为各国和企业简化了全栈式 AI 开发的流程。

欧盟正在投入超过 2000 亿美元发展 AI，但若要最大限度获取投资回报，其开发者必须应对三个关键制约因素：计算资源可用性受限、数据隐私需求和安全优先考量。

在 VivaTech 上的 NVIDIA GTC 巴黎主题演讲中公布的一套全新 NVIDIA 技术，使开发者在 AI 开发和部署周期的每个阶段都能更容易地应对这些挑战。企业可以使用这些工具在本地或云端构建可扩展的 AI 工厂，快速创建安全、优化的主权 AI 智能体。

扩展的NVIDIA Enterprise AI Factory的经验证设计将 NVIDIA Blackwell 加速的基础设施与新一代软件堆栈相结合，为主权 AI 提供了一站式解决方案。

其核心是全新的 NIM，让企业能够为各种开放的大语言模型 (LLM) 架构快速部署极速推理，计划支持 Hugging Face 上托管的超过 10 万个开放、私有和专业领域的模型。

最上层是全新的NVIDIA AI Blueprint和开发者示例。这些内容指导开发者如何在确保强大的安全性、更高程度的隐私保护，并且能够持续改进的前提下，简化创建并引入 AI 智能体的过程。

借助这些新工具，包括AI-Q NVIDIA Blueprint和用于数据飞轮的 NVIDIA Blueprint，以及基于NVIDIA NeMo用于 AI 安全的蓝图，欧洲的机构可以在不影响性能、控制或合规性的前提下大规模构建、部署和运行 AI 工厂。

欧洲大陆的主要企业已经在为近乎所有行业构建 NVIDIA 加速的 AI 工厂。该地区最大的金融公司，包括法国巴黎银行 (BNP Paribas) 和 Finanz Informatik，正在扩展 AI 工厂来运行金融服务 AI 智能体，以协助员工和客户。由欧莱雅支持的初创公司 Noli.com 正与埃森哲协作使用其 AI Refinery 开发 AI 美容配对器 (AI Beauty Matchmaker)。IQVIA 正在构建 AI 智能体以支持医疗健康服务。

在电信行业，英国电信集团 (BT Group) 正在使用 ServiceNow 优化客户服务并解决其网络中的异常。挪威电信 (Telenor) 正使用其 AI 工厂运行 NVIDIA AI Blueprint，以实现自主网络配置。

通过企业级 AI 工厂促进 AI 智能体开发

创建主权 AI 智能体的第一步是模型开发，通常使用针对特定用例的区域或企业特定数据。为了训练、管理和扩展这些模型，主权 AI 开发者需要 AI 工厂的支持。

本地部署的主权 AI 基础设施在政府、金融和医疗健康等受监管行业中尤其有价值。NVIDIA Enterprise AI Factory 的经验证设计通过本地部署 AI 工厂（其中每个硬件和软件层都经过优化），帮助这些行业快速扩展 AI 应用支持能力。

其涵盖 NVIDIA Blackwell 加速计算（包括 NVIDIA RTX PRO 服务器版）、NVIDIA 网络和NVIDIA AI Enterprise软件，用于加速生成式和代理式 AI 应用。

多家区域软件提供商，包括 Adaptive ML、ClearML、Dataloop、Deepchecks、deepset、Domino Data Labs、EnterpriseDB、Iguazio、Quantiphi、Teradata、Weaviate 和 Wiz，正在整合这一经验证设计，帮助开发者大规模构建和部署企业 AI 智能体。

NVIDIA Enterprise AI Factory 还可以与来自区域合作伙伴的软件一起使用，包括 aiOla、DeepL、Elastic、Photoroom、PolyAI、Qodo、Sana Labs、Tabnine 和 ThinkDeep 等。

NIM 在 NVIDIA 基础设施上加速 LLM 部署

准备好部署 AI 模型和智能体后，开发者可以利用NVIDIA NIM微服务，在不断扩展的全球 LLM 中实现加速企业级推理，包括针对特定语言和领域定制的模型。

NIM 微服务即将支持 Hugging Face 上的海量 LLM。NIM 可通过如NVIDIA TensorRT-LLM、SGLang 或 vLLM 等理想的推理引擎自动优化模型，使用户只需几个简单命令，就能在任意 NVIDIA 加速基础设施上快速部署他们偏好的 LLM 进行高性能 AI 推理。

Hugging Face 产品副总裁 Jeff Boudier 表示：“NIM 使得在 NVIDIA GPU 上部署 Hugging Face 的各种 LLM 变得容易。通过支持 Hugging Face Hub 上托管的超过 10 万个开放和私有 LLM，NIM 使开放模型的性能和多样性助力企业 AI 智能体。”

企业模型构建商和软件开发工具创建者 AI21 Labs、Dream Security、IBM 和 JetBrains，以及欧洲研究和创新机构巴塞罗那超级计算中心 (Barcelona Supercomputing Center)、Bielik.AI 和 UTTER，正在以 NIM 微服务形式提供专业的 LLM。

这些经优化的模型支持 35 种区域语言，包括阿拉伯语、捷克语、荷兰语、德语、希伯来语、法语、波兰语、葡萄牙语和西班牙语，为开发者构建具有本地语言和文化理解能力的 AI 智能体提供了更多选择。

NVIDIA 还与欧洲的多个模型构建商和 AI 联盟协作，使用NVIDIA Nemotron技术优化本地模型。

用于更智能、更安全的 AI 智能体蓝图

为助力开发者构建和部署强大、安全的 AI 模型和智能体，NVIDIA 提供了易于遵循的蓝图和开发者示例。这些参考设计使欧洲开发者能够将模型和智能体连接到专有数据、实施安全策略并持续更新优化，从而根据区域需求进行定制。

AI-Q NVIDIA Blueprint 提供了一份开发代理式系统的指南，该系统具备快速多模态数据提取和强大信息检索的能力。该蓝图包括NVIDIA NeMo Agent工具包，这是一个用于评估和优化 AI 智能体的开源软件库。

NVIDIA NeMo Agent 工具包带来智能的代理式 AI 工作流，并与开放标准兼容，包括模型上下文协议 (MCP)，这是一个用于连接 AI 智能体与工具的开源框架。这种集成使其能够与 MCP 服务器提供的工具实现互操作。NeMo Agent 工具包还与智能体框架集成，包括 CrewAI、LangChain、LlamaIndex、Microsoft Semantic Kernel 和 Weights & Biases。

AI-Q NVIDIA Blueprint 为企业提供了构建领域专用 AI 智能体的基础，这些智能体可以使用各种企业数据源，根据组织特定需求生成情境化的洞察。NVIDIA 合作伙伴包括 DDN、戴尔科技、慧与、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 使用 AI-Q NVIDIA Blueprint 将他们的数据平台连接到 AI 智能体。

用于构建数据飞轮的 NVIDIA AI Blueprint 使企业能够不断优化其 AI 智能体，包括用于将推理数据转化为新的训练和评估数据集的工具，以及保持高准确性的同时自动筛选优化模型的工具。

基于 NVIDIA AI Enterprise 构建的蓝图整合了生产环境流量和用户反馈，并触发重新训练和重新部署管线，创建了一个持续反馈循环以增强模型性能。由模块化 NVIDIA NeMo 微服务提供支持，它提供灵活的部署选项，可在本地或是云端的任何加速计算基础设施上运行。

该蓝图可评估现有和新的候选模型，帮助开发者识别和部署更小、更快的模型，其精度不亚于大型模型。借助此工具，企业可以选择提高计算效率并降低总拥有成本的模型，获取更精简、更具成本效益的 AI。

NVIDIA 合作伙伴 VAST Data、Weights & Biases 和 Iguazio（由麦肯锡旗下 AI 公司 QuantumBlack 收购的 AI 平台公司），正在基于用于数据飞轮的 NVIDIA AI Blueprint 进行构建，以整合基于其软件平台的额外功能，如高阶监控能力。

为了帮助企业安全采用开源模型，用于代理式 AI 安全的蓝图提供了一个用于评估和增强模型安全性的框架，涵盖内容安全、系统安全和隐私保护。

它指导开发者使用 NVIDIA 精选数据集和标准化评估工具，通过后训练为模型投入使用做好准备。该方案还提供可操作的安全和漏洞指标，涵盖破解、提示注入和有害内容，使企业能够加速部署，同时不影响合规性或信任。

企业已准备集成新的 NVIDIA 软件

包括 ActiveFence、Amdocs、思科、Cloudera、CrowdStrike、IBM、IQVIA、SAP、ServiceNow 和趋势科技 (Trend Micro) 在内的全球企业正在采用 NVIDIA NIM 微服务和蓝图，加速网络安全、金融服务、医疗健康、电信等领域的 AI 工作流。

Amdocs 是针对通信和媒体提供商的领先软件和服务提供商，将 NVIDIA AI Enterprise（包括 NVIDIA NeMo 和 NVIDIA NIM 微服务）用于 Amdocs' amAIz AI 产品和服务套件中。该公司通过 NVIDIA AI Blueprint 在 LLMOps 管线中构建数据飞轮，以实现高效的 LLM 微调。

Amdocs 计划整合更多 NIM 微服务，以支持用于内容创建、翻译、网络自动化和客户服务的 AI 智能体。

Capgemini、埃森哲、德勤、安永、Infosys、Tata 咨询服务和 Wipro 等全球系统集成商正在借助 NVIDIA 全栈软件帮助企业构建其 AI 工厂。