0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IPU和CXL如何提高数据中心的电源效率?

半导体产业纵横 ? 来源:半导体产业纵横 ? 2023-04-17 10:07 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

DPU、IPU 和 CXL 技术有可能显著提高数据中心的能效。

数据处理单元 (DPU)、基础设施处理单元 (IPU) 和 Compute Express Link (CXL) 技术可从服务器 CPU 卸载交换和网络任务,具有显著提高数据中心能效的潜力。事实上,美国国家可再生能源实验室 (NREL)认为,使用此类技术并专注于降低功率的企业可以实现约 33% 的效率提高。

使用新的网络技术提高电源效率

去年,出现了几项新技术,重新审视了数据中心的功耗。虽然采用了不同的方法,但这些解决方案都试图通过从 CPU中卸载交换和网络工作来提高能源效率,就像 GPU 和基于硬件的加密减少 CPU 的负载(从而降低整体功耗)一样。以下是一些值得关注的主要进展:

什么是数据处理单元 (DPU)?

数据处理单元 (DPU) 是一项相对较新的技术,可将处理密集型任务从 CPU 卸载到服务器中的单独卡上。从本质上讲,DPU 是一种微型板载服务器,针对网络、存储和管理任务进行了高度优化。(服务器上的通用 CPU 从未设计用于这些类型的密集型数据中心工作负载,并且经常会使服务器陷入困境。)

DPU 能产生什么影响?“在 DPU 中使用硬件加速来卸载处理密集型任务可以大大降低功耗,从而提高效率或在某些情况下减少服务器、更高效的数据中心,并通过减少电力消耗和减少成本来显著节省成本。”ZK Research 的创始人兼首席分析师Zeus Kerravala 说。

DPU 可以节省多少功率?提供英伟达BlueField DPU的英伟达的一份报告估计,卸载网络、存储和管理任务可以将服务器功耗降低多达 30%。此外,该报告还指出,随着服务器负载的增加,节电量也会增加,对于拥有 10000 台服务器的大型数据中心,在服务器的 3 年使用寿命内,可以节省 500 万美元的电费。在冷却、供电、机架空间和服务器资源成本方面将会有额外的节省。

什么是基础设施处理单元 (IPU)?

虚拟交换、安全和存储等基础设施服务会占用大量 CPU 周期。基础设施处理单元 (IPU) 可加速这些任务,释放 CPU 内核以提高应用程序性能并降低功耗。

去年,英特尔和谷歌云推出了一款代号为 Mount Evans 的联合设计芯片,旨在让数据中心更加安全和高效。该芯片接管了 CPU 为网络打包数据的工作。它还在可能共享 CPU 的不同应用程序和用户之间提供更好的安全性。

根据英特尔的定义,IPU 是一种具有强化加速器和以太网连接的高级网络设备。它使用紧密耦合的专用可编程内核来加速和管理基础设施功能。IPU 在使用软件定义网络 (SDN) 和日益复杂的管理软件的现代计算环境中特别有效。这些解决方案结合在一起会耗尽计算资源。英特尔估计,在某些高度虚拟化的环境中,网络可以消耗主机 CPU 周期的 30% 。

什么是计算快速链路 (CXL)?

Compute Express Link(CXL) 是一种开放互连标准,用于在主机(例如处理器)和设备(例如硬件加速器或智能 NIC)之间实现高效、一致的内存访问。该标准旨在解决所谓的冯诺依曼瓶颈问题,其中计算速度受限于 CPU 从存储器中检索指令和数据的速率。

CXL 以多种方式解决了这个问题。它采用了一种新的方法来在多个计算节点之间进行内存访问和共享。它允许内存和加速器分解,使数据中心完全由软件定义。

池中的某些内存设备可以允许在多个主机之间共享内存,这为应用程序提供了新的机会和可能性,可以在适当的位置读取、修改和写入数据,而无需通过网络在节点之间移动数据或传递消息。多台主机映射和使用数据的能力可以提高基础设施资源利用率。

CXL 有多重要?“CXL 技术可能会显著影响未来的服务器架构,”Omdia 云和数据中心研究实践分析师 Aaron Lewis 说。具体来说,CXL 可以在满足容量和带宽要求的同时降低服务器中的内存成本。

Lewis 还指出,很大一部分主板区域用于内存。通过 CXL 内存分解,内存资源可以像存储驱动器或物理外形的 PCIe 卡一样处理。这可能会使服务器计算更加密集,并且主要受热因素限制,而不是缺乏主板空间。

为什么 DPU、IPU 和 CXL 技术很重要

几十年来,企业一直关注运行其数据中心和 IT 运营的日益增长的电力需求。随着计算和存储需求的增长,能源消耗也在增长。具有更强大 CPU 的服务器直接使用更多电力。更快的处理器产生的热量需要越来越多的冷却,从而增加了电力负荷。

为了解决这些问题,已经尝试了各种能效解决方案,通过将一些计算和安全任务卸载到针对特定任务优化的协处理器(例如 GPU 或基于硬件的加密器)来解决这个问题。

除了使用 GPU,企业还使用虚拟化和节能实践来显著改善数据中心的功耗。因此,电源使用效率 (PUE) 这一描述计算机数据中心使用能源效率的标准指标下降了。(这是一件好事。)它从 2007 年的平均 2.5 左右下降到 2011 年的 1.98。这一下降是通过使用电源优化技术实现的,包括通过虚拟化最大化工作负载、改进冷却和其他举措。

不幸的是,这些用于降低数据中心电源效率的方法在十年内几乎没有改善,因为 PUE 比率变化很小。研究表明数据中心的 PUE 值范围很广,但目前的总体平均值约为 1.8。

最近,注意力已经转移到降低开关和网络工作的功率需求上。美国国家可再生能源实验室 (NREL)认为,使用此类技术并专注于降低功耗的企业可以实现约 33% 的电源效率提升。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 以太网
    +关注

    关注

    41

    文章

    5706

    浏览量

    176473
  • 加速器
    +关注

    关注

    2

    文章

    828

    浏览量

    39200
  • DPU
    DPU
    +关注

    关注

    0

    文章

    394

    浏览量

    25002
  • IPU
    IPU
    +关注

    关注

    0

    文章

    35

    浏览量

    15813

原文标题:DPU、IPU 和 CXL 如何提高数据中心的电源效率?

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    PCIe协议分析仪能测试哪些设备?

    网络数据包的传输效率。 应用价值:优化数据中心和云计算环境中的网络性能,减少延迟。 智能网卡(DPU) 测试场景:测试DPU与主机的PCIe互连,验证其卸载网络、存储和安全任务的能力。 应用价值
    发表于 07-25 14:09

    中型数据中心中的差分晶体振荡器应用与匹配方案

    RAID计算,FCO-7L抗干扰能力强,适用于全天候数据中心负载。 线路布置建议: 近端AC耦合,使用专用时钟线层,避免穿越电源隔离区域。 4. 光模块(QSFP+/OSFP) 匹配方案: FCO-2L
    发表于 07-01 16:33

    电感器在数据中心电源系统中的应用及选型

    数据中心功耗的大幅提升,对电源供应的质量与数量都提出了全新挑战。作为数据中心电源电路中的重要元件之一,电感器选型关系着数据中心电源系统转换效率
    的头像 发表于 05-29 17:45 ?282次阅读
    电感器在<b class='flag-5'>数据中心电源</b>系统中的应用及选型

    如何有效地管理人工智能数据中心电源

    作者:Kenton Williston 投稿人:DigiKey 北美编辑 人工智能 (AI) 和机器学习 (ML) 的兴起提出了前所未有的电力需求。下一代数据中心电源管理、效率和可靠性方面
    的头像 发表于 05-25 11:30 ?282次阅读
    如何有效地管理人工智能<b class='flag-5'>数据中心</b>的<b class='flag-5'>电源</b>

    数据中心液冷技术和风冷技术的比较

    (Power Usage Effectiveness,电源利用效率)<1.2,而传统的风冷制冷方式已经无法满足数据中心的散热需求,更加高效的液冷方案应运而生。特别在人工智能领域,随着智算需求的爆发,液冷方案已经成为
    的头像 发表于 05-09 09:41 ?1171次阅读
    <b class='flag-5'>数据中心</b>液冷技术和风冷技术的比较

    适用于数据中心和AI时代的800G网络

    选择无拥塞路径,提高数据传输效率。 多租户性能隔离:确保不同用户任务之间带宽分配合理。 飞速(FS)800G光模块在AI数据中心中的作用 为满足AI和大规模
    发表于 03-25 17:35

    优化800G数据中心:高速线缆、有源光缆和光纤跳线解决方案

    。通过综合考虑带宽、距离和成本等因素,可提高数据中心整体效率并实现未来网络基础设施的升级和扩展。如需了解更多定制化布线方案和专业建议,请访问飞速(FS),探索全面的布线产品和解决方案。
    发表于 03-24 14:20

    千亿规模AI数据中心,电感如何提高电源效率

    市场规模为1251亿美元,2025年将增至1587亿美元,2028年有望达到2227亿美元。其中,生成式人工智能服务器占比将从2025年的29.6%提升至2028年的37.7%。 ? 在数据中心规模增长的同时,也面临着能源问题。如今大模型等AI应用对算力的需求,推动了AI芯片算力不断
    的头像 发表于 03-15 00:53 ?1587次阅读

    数据中心发展与改造

    全球多数数据中心基础设施已超六年,能耗高而效率低。随着AI的发展,企业正致力于整合与提升能效的现代化改造。同时数据中心呈现规模化、高密化、绿色化发展趋势。19821800313 一、目前数据中
    的头像 发表于 02-28 16:50 ?434次阅读
    <b class='flag-5'>数据中心</b>发展与改造

    GaNSafe电源IC为数据中心和电动汽车电源系统提供最高的密度和效率

    电子发烧友网站提供《GaNSafe电源IC为数据中心和电动汽车电源系统提供最高的密度和效率.pdf》资料免费下载
    发表于 01-24 13:49 ?0次下载
    GaNSafe<b class='flag-5'>电源</b>IC为<b class='flag-5'>数据中心</b>和电动汽车<b class='flag-5'>电源</b>系统提供最高的密度和<b class='flag-5'>效率</b>

    效率高达99.4%!AI推动数据中心电源创新

    ? 电子发烧友网报道(文/梁浩斌)AI的需求带动了数据中心的升级,高算力AI芯片带来了更高的功率,以至于当前数据中心整机柜的功率提升幅度也相当惊人。纳微半导体预测,2024年数据中心整机柜功率平均
    的头像 发表于 11-26 08:18 ?4298次阅读
    <b class='flag-5'>效率</b>高达99.4%!AI推动<b class='flag-5'>数据中心电源</b>创新

    浅析如何降低数据中心电力能耗

    摘要:“新基建”为数据中心的建设开辟了广阔的发展前景。然而,鉴于数据中心巨大的能源消耗,政府和业界对其给予了高度关注。一些省份和城市对新建或改造的数据中心设定了严格的PUE(能源使用效率
    的头像 发表于 09-02 12:31 ?632次阅读
    浅析如何降低<b class='flag-5'>数据中心</b>电力能耗

    怎样保障数据中心不间断电源不断电 提供可靠安全的供配电#数据中心

    数据中心配电系统
    安科瑞王金晶
    发布于 :2024年08月29日 14:51:36

    数据中心使用智能负载组是个好主意#负载 #负载组

    数据中心
    深圳崧皓电子
    发布于 :2024年08月19日 07:43:30

    数据中心提高存储性能的方法是什么?

    目前企业通过三种存储效率技术,可以从中获得巨大的利益,节省成本和空间。并有效地利用存储空间和对于新技术的投资,包括云存储资源的释放。它还让企业以其自己的数据中心和云服务的成本进行实际比较。因此,运用
    的头像 发表于 08-05 11:40 ?680次阅读