0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA携手微软加速代理式AI发展

NVIDIA英伟达企业解决方案 ? 来源:NVIDIA英伟达企业解决方案 ? 2025-05-27 14:03 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

代理式 AI 正在重新定义科学探索,推动各行各业的研究突破和创新发展。NVIDIA 和微软正通过深化合作提供先进的技术,从云到 PC加速代理式 AI 应用的发展。

微软在 Microsoft Build 上发布了 Microsoft Discovery。这个可扩展平台旨在赋能研究人员借助代理式 AI 改变整个探索流程,帮助各行各业的研发部门加速新品上市,推动并扩展所有科学家的端到端探索流程。

Microsoft Discovery 将集成用于为化学模拟优化 AI 推理的NVIDIA ALCHEMI NIM微服务,通过属性预测和候选推荐来加速材料科学的研究。该平台还将集成NVIDIA BioNeMo NIM微服务,通过接入预训练 AI 工作流加速用于药物研发的 AI 模型开发。这些集成的微服务为研究人员提供了强大的性能,助力加速科学发现。

在测试中,微软研究人员使用 Microsoft Discovery 在不到 200 小时的时间内就检测出一种有望用于数据中心浸没式液冷的新型冷却剂原型,若使用传统方法则可能需要数月乃至数年。

通过大规模部署

NVIDIA Grace Blackwell

系统推进代理式 AI 的发展

微软正在其 Azure 数据中心快速部署数万台 NVIDIA Grace Blackwell 机架级系统,大幅提升 Azure 数据中心的性能和效率。

Azure 的 ND GB200 v6 虚拟机采用机架级架构,每个机架最多可搭载 72 个 NVIDIA Blackwell GPU 并采用先进的液冷技术。与之前由 8 个NVIDIA HopperGPU 加速的 ND H100 v5 VM 相比,推理吞吐量最多提高了 35 倍,树立了 AI 工作负载性能的新标杆。

这些创新是基于可自定义的服务器设计、NVIDIA NVLink高速互连技术和NVIDIA Quantum InfiniBand网络平台,可无缝扩展至数万个 Blackwell GPU,以满足生成式 AI 和代理式 AI 严苛的应用需求。

微软董事长兼首席执行官 Satya Nadella 和 NVIDIA 创始人兼首席执行官黄仁勋还特别强调,微软与 NVIDIA 的合作是基于 Azure 上的 NVIDIA 架构,对软件进行持续优化以提升性能。这种方法可以极大提高开发者的工作效率,降低总体拥有成本,并在加速所有工作负载(包括 AI 和数据处理)的同时,为客户带来更高的单位成本效益和功耗效率。

Azure AI Foundry 上的 NVIDIA AI

逻辑推理和医疗微服务

NVIDIA 在 GTC 上发布了集成在 Azure AI Foundry中的NVIDIA NIM微服务。微软和 NVIDIA 将在此基础上,通过NVIDIA Llama Nemotron开放推理模型系列和NVIDIA BioNeMo NIM微服务扩展该平台,为复杂决策和特定领域的 AI 工作负载提供企业级容器化推理。

开发者现在可以在 Azure AI Foundry 中使用经过优化的 NIM 微服务进行先进的逻辑推理。其中包括 NVIDIA Llama Nemotron Super 和 Nano 模型,这两个模型可提供先进的多步骤逻辑推理、编码和代理功能。与之前的模型相比,准确率最高可提升 20%,推理速度最高可加快 5 倍。

面向医疗行业的 BioNeMo NIM 微服务 (例如 ProteinMPNN、RFDiffusion 和 OpenFold2) 满足了数字生物学、药物研发和医学成像领域的关键应用需求,使研究人员和临床医生能够加速蛋白质科学研究、分子建模和基因组分析,进而提高患者护理的质量并加速科学创新。

这些扩展集成的 NIM 微服务使企业能够快速部署高性能 AI 智能体,并以强大的可靠性和简化的扩展能力将智能体连接到这些模型和其他专业医疗解决方案。

使用 RTX AI PC 加速

Windows 11 上的生成式 AI

从数字人到写作助手、智能体以及创作工具,生成式 AI 正在赋予 PC 软件全新的体验。NVIDIA RTX AI PC可让用户轻松探索生成式 AI,并在 Windows 11 上释放更强性能。

NVIDIA 与微软在 Microsoft Build 上共同发布了一个 AI 推理框架,以简化 Windows 11 PC 开发并提升其推理性能。

NVIDIA TensorRT已为 RTX AI PC 重新设计,将业界领先的 TensorRT 性能与即时编译 (Just-In-Time) 的本地引擎构建模式相结合,封装体积缩小至原来的 1/8,使 AI 功能能够快速部署至超过 1 亿台 RTX AI PC 上。

在 Microsoft Build 上发布的TensorRT for RTX由 Windows ML 提供原生支持。Windows ML 是一种全新推理框架,为应用开发者提供广泛的硬件兼容性与业界领先的性能表现。TensorRT for RTX 现已通过 Windows ML preview 向开发者开放,并将在 6 月作为独立 SDK 通过 NVIDIA Developer 正式发布。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6688

    浏览量

    105923
  • NVIDIA
    +关注

    关注

    14

    文章

    5324

    浏览量

    106635
  • AI
    AI
    +关注

    关注

    88

    文章

    35476

    浏览量

    281240

原文标题:NVIDIA 与微软共同加速从云到 PC 的代理式 AI 创新

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    代理式AIAI智能体在不同行业中的实际应用

    代理式 AI 的时代已经到来。如今,代理式 AI 已经驱动应用迈向深度场景融合与规模化落地。这波演进浪潮标志着 AI 能力向自主执行的跃迁。
    的头像 发表于 07-28 14:28 ?412次阅读

    NVIDIA全栈加速代理式AI应用落地

    在近期举办的 AWS 中国峰会上,NVIDIA 聚焦于“NVIDIA 全栈加速代理式 AI 应用落地”,深入探讨了
    的头像 发表于 07-14 11:41 ?582次阅读

    新思科技携手微软借助AI技术加速芯片设计

    近日,微软Build大会在西雅图盛大开幕,聚焦AI加速各行业(包括芯片设计行业)科学突破方面的变革潜力。作为Microsoft Discovery平台发布的启动合作伙伴,新思科技亮相本次大会,并
    的头像 发表于 06-27 10:23 ?470次阅读

    基于代理式AI建立网络安全防御体系

    NVIDIA AI 安全栈为先进的代理式系统提供信任、控制和管理支持。
    的头像 发表于 05-07 14:29 ?465次阅读

    NVIDIA携手谷歌云助力企业引入代理式AI

    谷歌 Gemini 模型即将支持本地部署,可通过搭载 NVIDIA Blackwell 架构的基础设施,在 Google 分布式云上运行 NVIDIA 机密计算。
    的头像 发表于 04-11 16:32 ?537次阅读

    Cadence 利用 NVIDIA Grace Blackwell 加速AI驱动的工程设计和科学应用

    提升高达 80 倍 ●?基于全新 NVIDIA Llama Nemotron 推理模型,携手开发面向工程设计和科学应用的全栈代理式 AI 解决方案 ●?率先采用面向
    的头像 发表于 03-24 10:14 ?818次阅读

    英伟达GTC2025亮点:NVIDIA、Alphabet 和谷歌携手开启代理式与物理AI的未来

    联合计划涵盖基础设施和开源模型优化,在机器人、药物研发等领域取得巨大进展 具有长期合作伙伴关系的 NVIDIA、Alphabet 和谷歌宣布了多项新计划,旨在推动 AI 发展、普及 AI
    的头像 发表于 03-21 15:10 ?1214次阅读
    英伟达GTC2025亮点:<b class='flag-5'>NVIDIA</b>、Alphabet 和谷歌<b class='flag-5'>携手</b>开启<b class='flag-5'>代理式</b>与物理<b class='flag-5'>AI</b>的未来

    英伟达GTC2025亮点:Oracle与NVIDIA合作助力企业加速代理式AI推理

    Oracle 数据库与 NVIDIA AI 相集成,使企业能够更轻松、快捷地采用代理式 AI Oracle 和 NVIDIA 宣布,
    的头像 发表于 03-21 12:01 ?761次阅读
    英伟达GTC2025亮点:Oracle与<b class='flag-5'>NVIDIA</b>合作助力企业<b class='flag-5'>加速</b><b class='flag-5'>代理式</b><b class='flag-5'>AI</b>推理

    Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成式 AI 服务首
    发表于 03-19 15:24 ?374次阅读
    Oracle 与 <b class='flag-5'>NVIDIA</b> 合作助力企业<b class='flag-5'>加速</b><b class='flag-5'>代理式</b> <b class='flag-5'>AI</b> 推理

    NVIDIA 推出开放推理 AI 模型系列,助力开发者和企业构建代理式 AI 平台

    NVIDIA 后训练的全新 Llama Nemotron 推理模型,为代理式 AI 提供业务就绪型基础 埃森哲、Amdocs、Atlassian、Box、Cadence、CrowdStrike
    发表于 03-19 09:31 ?249次阅读
    <b class='flag-5'>NVIDIA</b> 推出开放推理 <b class='flag-5'>AI</b> 模型系列,助力开发者和企业构建<b class='flag-5'>代理式</b> <b class='flag-5'>AI</b> 平台

    NVIDIA携手行业巨头,共促医疗健康产业变革

    近日,NVIDIA宣布了一系列新的合作伙伴关系,旨在通过前沿技术推动医疗健康与生命科学产业的变革。此次合作,NVIDIA携手行业内的领先机构,共同加速药物发现、提升基因组研究水平,并
    的头像 发表于 01-20 14:02 ?486次阅读

    NVIDIA 发布保障代理式 AI 应用安全的 NIM 微服务

    NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服务,能够为各行业构建 AI 的企业提高 AI 的准确性、安全性和可控性。 ?
    发表于 01-17 16:29 ?176次阅读

    NVIDIA 携手行业领先机构推动基因组学、药物发现及医疗健康行业发展

    ——NVIDIA 今日宣布新的合作伙伴关系,旨在通过加速药物发现、提升基因组研究,以及利用代理式和生成式 AI 开创先进医疗服务,推动规模达 10 万亿美元的医疗健康与生命科学产业的变
    发表于 01-14 13:39 ?312次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>携手</b>行业领先机构推动基因组学、药物发现及医疗健康行业<b class='flag-5'>发展</b>

    NVIDIA与合作伙伴推出代理式AI Blueprint

    开发者现在可以使用全新 NVIDIA AI Blueprint 构建和部署具备推理、规划和行动能力的定制化 AI 智能体。这些蓝图囊括了 NVIDIA NIM 微服务、
    的头像 发表于 01-09 11:08 ?704次阅读

    代理式AI如何运作

    代理式 AI 使用复杂的推理和迭代规划来自主解决复杂的多步骤问题。
    的头像 发表于 11-09 11:45 ?839次阅读
    <b class='flag-5'>代理式</b><b class='flag-5'>AI</b>如何运作