0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Vicor技术如何改进生成式人工智能的供电

Vicor ? 来源:Vicor ? 2024-10-16 09:54 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

专访 Maury Wood,Vicor 战略营销副总裁

生成式人工智能(genAI)带来的文化革命可能像互联网普及一样对人类产生深远影响。从您的角度来看,目前情况如何?

过去 18 个月以来,我们见证了整个生成式人工智能生态系统的飞速创新,涵盖处理器芯片、专用软件和超级计算机等多个领域,这些创新加速了特定领域人工智能应用的开发,同时,许多企业纷纷宣布战略规划,这预示着生成式人工智能将在可预见的未来对全球经济产生巨大影响。目前,生成式人工智能模型的训练已经在计算性能、存储容量和网络带宽方面达到了前所未有的高水平。一些当今性能最高的超级计算机(通常以浮点数学性能衡量)专门用于生成式人工智能模型训练。生成式人工智能正推动半导体、基础设施硬件、系统软件和网络边缘等领域的空前投资,这种投资热潮有望进一步扩展到家庭和工作场所的嵌入式人工智能设备领域。

生成式人工智能的快速普及会带来哪些负面影响?

除了人们普遍担忧的问题外,这波创新浪潮的一个主要成本是云数据中心的能耗急剧增加,这些数据中心承担着生成式人工智能的训练和推理任务,而能耗的预测数据令人担忧。例如,《纽约时报》的一项预测显示,到 2027 年,生成式人工智能的用电量将相当于阿根廷、荷兰或瑞典一年的用电量。生成式人工智能模型的训练和推理带来日益严重的能耗挑战,与社会减少能源使用和温室气体排放的目标背道而驰。

为何生成式人工智能计算如此耗电?

首先,让我们区分两个概念。当我们个人使用生成式人工智能工具时,我们是在对预训练的大型语言模型(LLM)进行查询,这种所谓的"推理"活动并不特别耗电,甚至可以在网络边缘设备上进行。然而,训练生成式人工智能大型语言模型的过程则需要在我之前提到的超级计算机上进行大量计算(目前这个过程通常需要数月)。这些超级计算机使用成千上万个基于图形处理单元(GPU)的专用处理器,每个处理器包含的晶体管都数量惊人——通常超过 1000 亿。这些训练处理器采用了最先进的半导体工艺技术,如 4 纳米 CMOS 工艺,但在运行过程中会漏电。由于这些晶体管的供电电压约为 0.7VDD,持续的电流需求可能高达 1000 安培或更高,导致持续功耗(也称为热设计功耗)达到 700 瓦特或更高。如果每台生成式人工智能超级计算机的数千个处理器和全球数百台云端生成式人工智能超级计算机都乘以 700 瓦,总体电力消耗就会急剧飙升。

举个例子,根据英伟达(Nvidia)的数据,OpenAI 的 GPT-3 模型有 1750 亿个参数,整个训练周期需要约 300 泽字节浮点运算(300 zettaFLOPS,即每秒 1021 次浮点运算),相当于 3X1023 次数学运算。而且这些模型的规模只会不断增加,目前正在开发的神经网络模型参数已达到万亿级。

229e9bd8-8b53-11ef-a511-92fbcf53809c.jpg

图 1:生成式人工智能训练处理器的峰值电流需求不断攀升,似乎没有尽头。

常规开关模式电源架构能否满足生成式人工智能的供电需求?

直到最近,数据中心机架还在使用 12V 直流配电系统。在过去十年中,Vicor 等电源系统创新公司一直倡导在数据中心机架中使用 48V 直流电源,因为根据欧姆定律,电压更高可以在具有非零电阻的导体中降低功耗。开放计算项目组织(Open Compute Project)标准化的开放机架规范大大推动了 48V 直流电源在高性能计算应用中的采用。在早期的生成式人工智能配电架构中,这种 48V 直流电源在加速模块上转换为中间母线电压,然后再通过跨电感电压稳压器(TLVR)供电,然而这种方法在可扩展性和电流密度方面存在明显的局限性。

概念性加速模块(AM),展示基于 GPU 的处理器并支持高带宽内存(HBM),是生成式人工智能的基本构建模块。

为何 TLVR 方法不足以满足生成式人工智能处理器的供电需求?

在用于生成式人工智能训练处理器的加速模块上,可用的印刷电路板(PCB)空间非常有限,这意味着这些处理器的供电子系统必须具有超高的功率密度(W/mm?)和电流密度(A/mm?)。传统电源根本无法达到所需的功率和电流密度,既无法提供足够的电流,也无法适应有限的 PCB 面积。此外,生成式人工智能训练处理器的电源组件还必须满足负载瞬变引起的动态性能需求。同样,传统的供电方法并不能很好地满足这些要求。另外,生成式人工智能供电架构中的组件必须具有出色的散热能力。无论生成式人工智能系统采用液冷还是风冷,电源组件都必须具有高热导率,其封装还要能在整个使用寿命期内承受极高水平的热循环。最新的生成式人工智能加速模块采用分级电源架构,其负载点转换器使用电流倍增技术,如 Vicor 公司的创新技术。

Vicor 的分比式电源架构(FPA)在负载点采用具有出色散热性能的模块化电流倍增器(MCM),非常适合生成式人工智能训练应用。

Vicor 技术如何改进生成式人工智能的供电?

Vicor 独特的电源模块采用模塑成型,然后使用无电镀镍浸金(ENIG)工艺进行电镀。模压结构确保机械刚性,以及在温度、湿度和振动等环境下的稳定性。电镀外表面有利于高良率的表面贴装组装,同时为使用冷板强制风冷或液冷提供了理想的热传导条件。Vicor 电源模块采用专有的正弦振幅转换器(SAC)电路拓扑,使用零电压开关(ZVS)和零电流开关(ZCS)技术来最大限度地减少开关噪声和杂散辐射,同时最大化 DC-DC 转换效率。Vicor 还使用高频 MOSFET 开关来减小高度集成模块的物理尺寸。此外,Vicor 为人工智能/高性能计算应用设计的负载点组件非常薄(≤1.7mm),并在一系列与 PCB 兼容的封装中提供可扩展的电流输出。在可预见的未来,生成式人工智能无疑将继续是现代计算世界中最耗电且散热挑战最大的应用。Vicor 将继续创新,满足这一激动人心的新业务机会不断攀升的供电需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19935

    浏览量

    236281
  • 数据中心
    +关注

    关注

    16

    文章

    5256

    浏览量

    73630
  • 人工智能
    +关注

    关注

    1809

    文章

    49151

    浏览量

    250629

原文标题:随着人工智能(AI)的发展,电力挑战也随之而来

文章出处:【微信号:Vicor,微信公众号:Vicor】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    生成人工智能认证:解锁AI时代个人与组织的进化密码

    当人类站在智能革命的奇点回望,会发现技术迭代的速度早已超越个体认知的进化节奏。生成人工智能的爆发式发展,不仅重构了知识生产与传播的方式,更
    的头像 发表于 05-23 09:47 ?230次阅读

    生成人工智能认证:重构AI时代的人才培养与职业跃迁路径

    当人类站在生成人工智能(Generative AI)的技术奇点上回望,会发现这场革命早已超越了工具迭代的范畴——它正在重新定义人类与技术
    的头像 发表于 05-23 09:29 ?309次阅读

    生成人工智能认证:重塑AI时代职业版图的钥匙

    在科技浪潮席卷全球的今天,人工智能(AI)已从科幻概念进化为驱动社会变革的核心力量。其中,生成人工智能(Generative AI)作为技术
    的头像 发表于 05-23 09:18 ?305次阅读

    生成人工智能认证:重塑AI职业生态的底层逻辑

    人工智能技术渗透至社会毛细血管的今天,生成人工智能(Generative AI)的崛起正在改写人类与技术的协作范式。从ChatGPT引爆
    的头像 发表于 05-23 09:17 ?225次阅读

    声智APP通过北京市生成人工智能服务登记

    近日,声智APP已正式通过北京市第二批生成人工智能服务登记,成为《生成人工智能服务管理暂行办
    的头像 发表于 03-19 16:33 ?580次阅读

    我国生成人工智能的发展现状与趋势

    作为信息化、数字化、智能化的新型技术基座,生成人工智能对于提升国家战略地位与国际竞争力具有重要意义。2022年11月以来,随着以ChatG
    的头像 发表于 02-08 11:31 ?1602次阅读

    生成人工智能模型的安全可信评测

    近些年来,生成人工智能技术取得了飞跃发展。随着各式各样的大模型不断迭代升级,从一般通用生成能力,到各种专有领域的细分能力,再到更注重与用户的实际交互,大模型的各项能力显著提升,
    的头像 发表于 01-22 13:55 ?1076次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>模型的安全可信评测

    嵌入人工智能究竟是什么关系?

    了重要作用。在未来,随着嵌入系统和人工智能技术的不断进步,我们可以预见更多创新应用的出现,为社会发展和生活品质的提升带来更多可能性。
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过技术创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和技术原理。这使得我对
    发表于 10-14 09:27

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,无疑为读者铺设了一条探索人工智能(AI)如何深刻影响并推动科学创新的道路。在阅读这一章后,我深刻感受到了人工智能技术在科学领域的广泛应用潜力以及其带来的革命性变化,以下是我个人的学习心得: 1.
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    和使用该技术,无需支付专利费或使用费。这大大降低了人工智能图像处理技术的研发成本,并吸引了大量的开发者、企业和研究机构参与其生态建设。 灵活性则体现在RISC-V可以根据不同的应用场景进行定制和优化,从而
    发表于 09-28 11:00

    生成人工智能在教育中的应用

    生成人工智能在教育中的应用日益广泛,为教育领域带来了诸多变革和创新。以下是对生成人工智能在教
    的头像 发表于 09-16 16:07 ?2923次阅读

    生成人工智能的概念_生成人工智能主要应用场景

    生成人工智能(Generative Artificial Intelligence,简称GAI)是一种先进的人工智能技术,其核心在于利用计算机算法和大量数据来
    的头像 发表于 09-16 16:05 ?4914次阅读

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    每个交叉领域,本书通过案例进行了详尽的介绍,梳理了产业地图,并给出了相关政策启示。 《AI for Science:人工智能驱动科学创新》适合所有关注人工智能技术和产业发展的读者阅读,特别适合材料科学
    发表于 09-09 13:54

    揭秘生成人工智能如何重塑视频会议体验

    面对面交流所带来的体验。与此同时,生成人工智能技术的飞速发展,为破解混合会议长期以来面临的诸多挑战提供了创新性解决方案。 生成
    的头像 发表于 08-19 14:54 ?511次阅读