0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI 工作负载的电源

李芳 ? 来源:fgfFsG ? 作者:fgfFsG ? 2022-08-08 11:14 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

AI 无处不在的性质不仅限于数据中心,也不在 MIT Python 程序员的头脑中。它可以在我们当地的超市中以自导机器人的形式在过道中漫游,使用卷积神经网络 (CNN) 和其他方式嵌入机场安全摄像头。

无论 AI 接口是什么——一个眼睛粘糊糊的超市机器人,或者一个性感的澳大利亚女声给我们指着一个好酒吧——工作负载需要在某种基于 CPUGPU 的系统上处理,比如来自 Nvidia 的 DGX。

因为有这么多不同类型的 AI,所以没有一种最适合的硬件来处理工作负载。正如英特尔的Naveen Rao所说,“客户发现没有单一的‘最佳’硬件来运行各种 AI 应用程序,因为没有单一类型的 AI。” 无论为 AI 应用程序选择哪种硬件,肯定有一个共同点:处理工作负载的每台设备都需要有电源

美元数据

对于 IT 经理来说,人工智能对计算服务器所需的功率产生了相当大的影响。服务器机架的平均功耗通常为 7 kW;但是,AI 应用程序每个机架可能使用超过 30 kW。增加千瓦是必需的,因为 AI 需要更高的处理器利用率,例如在 GPU 类型服务器上运行的应用程序——它们每个芯片需要两倍的功率。

当然,如果您的设施功率受限,您可以尝试四处移动数据,但这可能需要比处理数据更多的能量,而且功率消耗始终与移动中的数据量有关。简而言之,与数据传输相关的成本很高。

例如,尽管有许多云提供商(AWS、Azure、Google 等)可供选择,但许多公司都面临与复杂数据传输价格相关的隐藏成本。解决这一困境的一个可行的解决方案不是移动数据,而是在更接近起源点的地方处理它——这创造了对边缘计算的另一种需求。

用小网络解决大问题

边缘计算有望成为另一个无处不在且备受期待的数据进步(称为 5G)的支柱。5G 预期的 1 毫秒延迟时间需要许多分布式处理区域(也称为边缘网络)的支持。基于边缘的服务器需要更靠近个人流式传输 4K 视频和最终 8K 格式的视频,以及用于监控智能城市中行人和交通活动的摄像头等应用程序——而这一切都无需将其发送到云端。

此外,还需要边缘网络来支持自动驾驶汽车。这种优雅的新数据流挂毯的核心将是人工智能近乎实时地处理信息。

目前,所有 AI 应用程序都运行在基于硅的计算硬件上,无论是在智能手机内置的定制芯片中、在边缘计算服务器内部署的 FPGA 中,还是在专门构建的以 AI 为重点的系统中,例如来自 Nvidia 的 DGX,可通过公共云访问。

并且该硬件都需要电源,无论是直流电(如电池)还是交流电(来自电网)。它还需要物理系统之间的连接,无论是通过铜缆还是光纤数据连接。

断电是AI的氪石

人工智能似乎对人类具有前所未有的价值。然而,当遇到断电时,它会崩溃并停止运作——就像超人对氪石的反应一样。将 AI 与这种能量克星隔离并降低故障风险的解决方案是确保可靠的功率流。

具有每插座功率感应功能的开关 PDU将使边缘数据中心能够最大限度地延长所有需要近实时处理的 AI 应用程序的正常运行时间。在这种环境下,选择可靠的 PDU 为交通控制信号和中继站的 AI 工作负载供电非常重要,急救人员使用这些工作负载为救护车、消防和执法服务提供调度和紧急数字通信。

鉴于这些关键任务的情况,智慧城市需要智能电源设备来确保其 5G 服务畅通无阻。使用远程监控和管理的数据中心 PDU还有助于监控机柜内的温度和环境条件。

回到数据中心和主机托管设施,人们正在更换基于 CPU 的服务器以获得更强大的 GPU 系统人工智能处理能力,当 C13 和 C19 插座的更大组合时,拥有可扩展的机架式 PDU真的会派上用场需要——正在创建 30 kW 机架的过程中。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 电源
    +关注

    关注

    185

    文章

    18429

    浏览量

    257428
  • AI
    AI
    +关注

    关注

    88

    文章

    35758

    浏览量

    282429
  • 工作负载
    +关注

    关注

    0

    文章

    11

    浏览量

    2063
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    通过NVIDIA RTX PRO服务器加速企业工作负载

    从大语言模型(LLM)到代理式 AI 推理和物理 AI ,随着 AI 工作负载的复杂性和规模不断增加,人们对更快、扩展性更高的计算基础设施的
    的头像 发表于 06-12 15:31 ?351次阅读
    通过NVIDIA RTX PRO服务器加速企业<b class='flag-5'>工作</b><b class='flag-5'>负载</b>

    ups电源—UPS(不间断电源)选型和负载类型的关系分析

    在选择适合工作场景的UPS(不间断电源)时,负载类型是一个至关重要的考虑因素。不同类型的负载对UPS(不间断电源)的性能要求不同,因此,明确
    的头像 发表于 03-28 18:21 ?614次阅读
    ups<b class='flag-5'>电源</b>—UPS(不间断<b class='flag-5'>电源</b>)选型和<b class='flag-5'>负载</b>类型的关系分析

    ups电源—UPS不间断电源在不同负载下的效率详解

    UPS(不间断电源)在不同负载类型下的工作效率会有所差异,这主要取决于UPS不间断电源的设计、容量、负载特性以及运行环境等多个因素。以下是对
    的头像 发表于 03-27 18:21 ?684次阅读
    ups<b class='flag-5'>电源</b>—UPS不间断<b class='flag-5'>电源</b>在不同<b class='flag-5'>负载</b>下的效率详解

    ups电源—线性负载中UPS不间断电源提效妙招

    在线性负载场景下,UPS(不间断电源)的工作效率对于确保电力系统的稳定性和可靠性至关重要。为了提升UPS不间断电源在线性负载下的
    的头像 发表于 03-24 18:42 ?280次阅读
    ups<b class='flag-5'>电源</b>—线性<b class='flag-5'>负载</b>中UPS不间断<b class='flag-5'>电源</b>提效妙招

    ups电源—超有趣!UPS不间断电源负载类型介绍

    UPS不间断电源常见负载类型包括线性负载和非线性负载,下面具体介绍一下UPS不间断电源负载类型
    的头像 发表于 03-21 18:28 ?536次阅读
    ups<b class='flag-5'>电源</b>—超有趣!UPS不间断<b class='flag-5'>电源</b>的<b class='flag-5'>负载</b>类型介绍

    Arm技术助力Google Axion处理器加速AI工作负载推理

    由 Arm Neoverse V2 平台赋能的 Google Axion 处理器已在 Google Cloud 上正式上线,其中,C4A 是首款基于 Axion 的云虚拟机,为基于 CPU 的人工智能 (AI) 推理和通用云工作负载
    的头像 发表于 02-14 14:11 ?614次阅读
    Arm技术助力Google Axion处理器加速<b class='flag-5'>AI</b><b class='flag-5'>工作</b><b class='flag-5'>负载</b>推理

    HPC工作负载管理的关键要素

    HPC工作负载管理是一个复杂而精细的过程,涉及资源分配、作业调度、性能监控与优化以及故障处理与恢复等多个关键要素。下面,AI部落小编带您了解HPC工作
    的头像 发表于 02-08 09:53 ?372次阅读

    电源负载主要特性和参数是什么?

    电源负载的主要特性和参数是评估其性能和适用性的关键因素。以下是一些主要的特性和参数: 功率: 额定功率(Rated Power):电源负载能够持续稳定运行的最大电功率。 峰值功率(Pe
    发表于 12-25 15:09

    直流电源怎么连接负载 常见直流电源接线方式

    电路正常工作和延长设备寿命至关重要。 常见直流电源接线方式 1. 正负极直接连接 这是最基本的连接方式,适用于大多数简单电路。直流电源的正极(+)连接到负载的正极输入端,负极(-)连接
    的头像 发表于 12-23 09:45 ?6739次阅读

    燃料电池测试负载工作原理是什么?

    燃料电池测试负载工作原理主要涉及到对燃料电池性能的检测和评估。燃料电池是一种将化学能直接转化为电能的装置,其工作原理是通过氢气和氧气在催化剂的作用下发生氧化还原反应,产生电流和水。在这个过程中
    发表于 12-06 16:31

    NVIDIA NIM在搭载RTX技术的AI工作站上的应用

    AI 计算资源的需求正不断增长。从概念验证到企业部署需要针对生成性 AI 工作负载进行优化的强大计算基础设施。同时,AI 开发项目需要更多的
    的头像 发表于 11-09 11:47 ?870次阅读

    AI算力芯片供电电源测试利器:费思低压大电流系列电子负载

    AI算力芯片作为驱动复杂计算任务的核心引擎,其性能与稳定性成为了决定应用成败的关键因素。而在这背后,供电电源的稳定性和高效性则是保障AI算力芯片持续、稳定工作的基石。今天,我们就来揭秘
    的头像 发表于 10-25 11:26 ?1583次阅读
    <b class='flag-5'>AI</b>算力芯片供电<b class='flag-5'>电源</b>测试利器:费思低压大电流系列电子<b class='flag-5'>负载</b>

    升压电源模块带不动负载咋回事

    ,以及相应的解决方案。 1. 输入电压过低 原因: 输入电压低于升压模块的最小工作电压。 电源不稳定或电池电量不足。 解决方案: 检查输入电压是否在模块的工作范围内。 确保电源稳定,如
    的头像 发表于 09-29 16:00 ?2797次阅读

    电子负载工作模式和技术参数

    电子负载作为电子测试领域的重要设备,其工作模式和技术参数对于理解和应用该设备至关重要。以下将详细阐述电子负载工作模式和技术参数。
    的头像 发表于 09-14 17:27 ?3790次阅读

    负载组测试如何工作?#负载 #负载

    负载
    深圳崧皓电子
    发布于 :2024年08月21日 07:12:48