NVIDIA 近日宣布,三家头部系统制造商将率先在其服务器产品阵容中集成专为 AI 量身定制的 NVIDIA Spectrum-X 以太网络技术,帮助企业客户加速生成式 AI 业务。
Spectrum-X 专为生成式 AI 量身定制,为企业提供了一种全新的以太网络,相较传统以太网方案,其 AI 通信网络性能提高了 1.6 倍。
这三家头部系统制造商的新系统,整合了 Spectrum-X 与 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 软件和 NVIDIA AI Workbench 软件,为企业通过生成式 AI 来实现业务转型奠定了基础。
NVIDIA 创始人兼首席执行官黄仁勋表示:“生成式 AI 和加速计算正在推动新一代的业务转型,企业需要升级其数据中心来满足新型业务的需求。加速网络就是 NVIDIA 的头部服务器制造商合作伙伴推出新一代系统的催化剂,加快他们迈向生成式 AI 新时代。”
专门用于加速 AI 的网络
为实现 AI 业务的出色效率,Spectrum-X 集性能优异的 Spectrum-4 以太网交换机、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大规模 AI 业务性能的新型网络加速器)以及多种加速软件于一体。领先的基础设施计算平台 —— NVIDIA BlueField-3 DPU 就属于 Spectrum-X 的一部分。
Spectrum-4 是专门面向 AI 的 51Tb/sec 以太网交换机,可在大规模、满负荷的场景下提供较高的数据吞吐量,同时在 AI 云业务的多租户场景下将网络拥塞降低,其智能的、基于微调的路由技术可以保障网络基础设施的利用率。
BlueField-3 SuperNIC 专为网络密集型的大规模并行计算而设计,可在 GPU 服务器之间提供高达 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)网络连接,大幅提升了集群内部基于东西网络流量的 AI 训练和推理性能,还能实现多租户数据中心环境的安全隔离,确保租户业务的可预测性和性能隔离。BlueField-3 SuperNIC 基于低功耗、半高半长的 PCIe 规格设计,是企业级服务器的理想选择。
NVIDIA 加速软件包括 Cumulus Linux、SONiC 和 NetQ 三者组成的性能优异的 Spectrum-X 软件开发套件,以及作为 BlueField 核心的 NVIDIA DOCA 软件框架。
NVIDIA AI Enterprise 为安全、稳定和已经支持的生产级 AI 业务提供了框架、预训练模型和开发工具。NVIDIA AI Workbench 使开发者能够在 PC 或工作站上快速创建、测试和自定义预训练生成式 AI 模型,然后将其扩展至几乎任何数据中心或云。
搭载 Spectrum-X 的 NVIDIA 超级计算机
NVIDIA 自己的一台超级计算机就在使用 Spectrum-X,这也是新一代 AI 系统的参考架构。该超级计算机由 NVIDIA 与戴尔科技联合开发,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平台和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服务器,并通过 Spectrum-4 交换机组成了集群系统。
审核编辑:刘清
-
以太网
+关注
关注
41文章
5760浏览量
176859 -
NVIDIA
+关注
关注
14文章
5353浏览量
106862 -
gpu
+关注
关注
28文章
4981浏览量
132127 -
交换机
+关注
关注
22文章
2773浏览量
102212 -
RDMA
+关注
关注
0文章
85浏览量
9351
原文标题:NVIDIA 全新 AI 以太网络平台大幅提升 AI 云性能
文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级
信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代
AI网络管理新范式:精要解读超以太网联盟(UEC)1.0 规范(2025Q2)

全球各大品牌利用NVIDIA AI技术提升运营效率
NVIDIA计划打造全球首个工业AI云平台
首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手
英特尔推出具备高性能和能效的以太网解决方案

以太网速率对网络性能的影响
NVIDIA SuperNIC推进现代AI基础设施发展
使用全新NVIDIA AI Blueprint开发视觉AI智能体
NVIDIA助力xAI打造全球最大AI超级计算机
NVIDIA 以太网加速 xAI 构建的全球最大 AI 超级计算机

评论