0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

存储芯片巨头,开启AI算力争霸赛

sakobpqhz ? 来源:芯东西 ? 2023-08-08 11:16 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

巨头排队疯抢、价格一路暴涨,HBM乘上生成式AI快车。

韩国存储芯片巨头们正在打一场翻身仗。

尽管从最新财报来看,存储芯片复苏未见好转,供应过剩导致营业利润大幅下降,但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣,便是逐渐成为数据中心AI训练必备组件的AI相关内存芯片——高带宽内存(HBM)

因生成式AI开发和商业化竞争加剧,第二季度对AI相关内存的需求大幅增加。HBM的受关注程度,在上周SK海力士和三星发布最新财报后举行的电话会议期间可见一斑,分析师们就HBM相关进展和后续规划密集发问。

自去年英伟达发布世界首款采用HBM3的GPU H100以来,HBM3及更先进HBM芯片的热度一直居高不下。据英国《金融时报》援引两位接近SK海力士的消息人士报道,英伟达和AMD要求SK海力士提供尚未量产的下一代HBM3E芯片的样品。英伟达已要求SK海力士尽快供应HBM3E,并愿意支付“溢价”

48ca27bc-3520-11ee-9e74-dac502259ad0.png

▲英伟达GPU及其他AI芯片HBM采用情况(图源:SemiAnaysis)

虽说今年缩减开支是重头戏,但存储芯片巨头们在HBM方向的投资仍相当舍得——合计掌控着全球90%HBM芯片市场的两家大厂SK海力士和三星均表态,计划明年将HBM芯片产量提高一倍,并为了更好应对HBM不断增长的需求,而减少其他类别存储芯片的投资

01.英伟达AMD微软亚马逊排队

坐等用上HBM3E

高带宽内存(HBM)属于DRAM的一类分支,使用堆叠技术来提高图形处理器(GPU)等计算芯片的带宽和性能,相比传统DRAM芯片产品具有尺寸更小、功耗更低、带宽更高、处理数据速度更快等优势。

48f08bb4-3520-11ee-9e74-dac502259ad0.png

▲2015年AMD介绍新型存储芯片HBM(图源:AMD)

HBM最初用于高端游戏显卡,目前在全球动态随机存取存储器(DRAM)市场中占有的市场份额较小,但潜力非常可观。随着云计算及生成式AI服务的发展,全球大型科技公司将越来越多地使用HBM,来快速处理快速增长的数据。

据芯片行业咨询公司SemiAnalysis披露,HBM的价格大约是标准DRAM芯片的5倍,利润丰厚,预计到HBM占全球内存收入的比例将从目前的不到5%增长到2026年的20%以上。

自2013年开发全球首款HBM芯片以来,全球第二大存储芯片巨头SK海力士一直处于HBM领先地位。这也是SK海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的HBM抢位赛,争相开始量产HBM2、HBM2E等芯片。

2022年6月,SK海力士宣布开始量产业界首款HBM3内存,与英伟达H100 GPU配合使用,预计将于2022年第三季度发货。该内存将为H100提供高达819GB/s的内存带宽。

4920a8d0-3520-11ee-9e74-dac502259ad0.jpg

▲历代HBM性能演进(图源:SK海力士和Rambus)

目前SK海力士是目前唯一一家批量出货HBM3的供应商,拥有超过95%的市场份额。它正在为AMD MI300X和英伟达H100生产数据速率为5.6GT/s的12层24GB HBM3。

今年一开年,HBM3便呈大热之势,订单迅速增加。2月份有报道称,据市场人士透露,HBM3价格近期上涨了5倍。

随后在5月30日,SK海力士乘胜追击推出最新的HBM3E,每个堆栈的带宽从HBM3的819GB/s增加到1TB/s,将于明年上半年投入生产,据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动HBM价格进一步大幅上涨。

据行研机构TrendForce的数据,SK海力士2022年在全球HBM市场占有50%的份额,三星以40%的份额紧随其后,美国存储芯片巨头对手美光以10%的份额排名第三。

SK海力士披露,生成式AI市场的扩张已迅速推高对AI服务器内存的需求。在AI相关需求激增的驱动下,上周三,SK海力士报告其今年第二季度同比由盈转亏,营业亏损为2.88万亿韩元,其股价上周却上涨了12%。

49361576-3520-11ee-9e74-dac502259ad0.png

▲过去半年SK海力士股价变化

次日,三星宣布第二季度营业利润为6685亿韩元,同比下降95%。受益于最新一代HBM3芯片在内的高端内存技术订单激增,三星股价周四上涨了2.4%,然后又有所回落。

495f1688-3520-11ee-9e74-dac502259ad0.png

▲过去半年三星电子股价变化

TrendForce预测,2023年全球HBM芯片需求将增长60%,达到2.9亿GB,明年将再增长30%,2025年整体市场有望达20亿美元以上。预计明年SK海力士将占据HBM市场53%的份额,其次是三星(38%)和美光(9%)。

02.AI服务器使用的内存

比传统服务器至少多出1~8倍

在财报电话会议上,SK海力士首席财务官Kim Woohyun说:“与传统服务器相比,AI服务器使用的内存至少多出1~8倍,以实现更快的计算处理,并采用HBM等高性能内存产品,这不仅会推动需求,而且对盈利能力产生了积极影响。

他谈道,从今年年初开始,智能手机、个人电脑和服务器的需求一直疲软。但从第二季度开始,AI服务器的需求急剧上升,抵消了其他产品需求的部分损失。自第二季度以来,生成式AI引发的对高端服务器的需求迅速增加。相应地,高密度DDR5和HBM产品的需求也在快速增长。

三星内存业务执行副总裁Jaejune Kim在三星财报电话会议上谈到第二季度在服务器方面的内存需求,由于对生成式AI的强劲需求,数据中心领域的投资在有限的资本支出中集中在AI服务器上,对通用服务器和存储的需求相对有限。

今年随着企业投资水平的降低,存储芯片客户将重点放在昂贵的AI服务器上的投资,对传统服务器的投资可能会暂时下降。不过,SK海力士分析预测,通用服务器仍将广泛用于AI服务的开发、部署和运营,因此从长远来看也将刺激通用服务器的需求增长。

据Kim Woohyun披露,SK海力士的图形DRAM销售额(包括HBM产品)此前仅占DRAM销售额的个位数百分比。但自从去年第四季度达到DRAM销售额的10%以来,这一比例迅速增长到第二季度超过20%。SK海力士用于AI服务器的HBM和高密度DDR5模块的销量大幅增长。该公司预计今年HBM的销量预计将比去年增长两倍以上,并预计明年将进一步增长。

03.今明HBM需求预计陡峭增涨

两家大厂披露HBM最新路线图

业内专家表示,由于调整产能需要时间,未来两年HBM供应预计仍将紧张,而快速增加HBM产量也很困难,因为它需要专门的生产线。

SK海力士和三星给出了相近的产业趋势解读:内存需求一直在从去年创纪录的低增长水平中复苏,当前复苏尚不足以使全行业库存水平恢复正常,上半年库存水平仍较高,但库存已经见顶,并预测随着减产效果进一步显现,下半年存储芯片需求将较上半年有所改善。

为了进一步加速库存正常化,两家存储芯片大厂都在选择性地对DRAM和NAND的某些产品进行额外的生产调整,下半年重点抓盈利能力,专注于高附加值和高密度产品来优化其产品组合,特别是加强销售组合中HBM、DDR5等高价值前沿产品的份额的增长,减少库存水平较高、盈利能力不及DRAM的NAND的产量。

SK海力士相信第三季度AI服务器需求将持续增涨,特别是高密度DDR模块和HBM,这两款产品的收入有望在下半年比上半年增速更高,HBM的需求将在明年保持相当健康的增长。

近期,特别是随着超大规模企业对生成式AI服务的竞争加剧,三星收到了来自此类客户的大量需求,预计今年和明年HBM的需求可能会出现相当陡峭的增长。

目前SK海力士的首要任务是投资增加HBM的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整,以应对对高密度DDR5和HBM不断增长的需求。

对于HBM路线图来说,重要的是与GPU的发布或领先加速器市场的公司的时间表保持一致。SK海力士预计将在2026年某个时候转向HBM Gen 4,并正为此做准备。

根据其路线图,明年下半年将是HBM3E量产期,也是HBM3E的供应扩大期。今年SK海力士的重点是增加HBM量产所需的1Z纳米的比例,还准备增加1B纳米产能和TSV产能,为明年上半年开始供货的HBM3E做准备。

为了与市场增长预期保持一致,三星一直在扩展其HBM业务,产品方面拥有向主要客户独家供应HBM2的记录,后续还就HBM2E开展业务,计划2023年下半年开始大规模生产HBM3。三星HBM3正在接受具有行业顶级性能和密度或容量的客户资格认证,已开始向主要的AI SoC公司和云计算公司发货8层16GB和12层24GB产品。具有更高性能和容量的三星下一代HBM3P芯片计划于今年晚些时候发布

49f3585c-3520-11ee-9e74-dac502259ad0.png

▲三星HBM3介绍(图源:SemiAnalysis)

三星还一直投资HBM生产能力,基于此已经预订了大约10亿或十亿中值Gb级的客户需求,大约是去年的两倍,并正在通过提高生产力来进一步提高供应能力,到2024年计划将HBM产能增加至少是2023年水平的两倍。另据此前报道,三星拟投资1万亿韩元扩产HBM。

对于三星来说,它虽然在HBM竞争的反应比SK海力士慢半拍,但考虑到通常AI芯片与HBM存储器一起集成到单个封装中,三星拥有一个其他芯片企业所不具备的优势——兼具先进GAA工艺技术、HBM技术和先进封装技术

如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案,这有望成为未来三星在AI算力市场竞争中的关键壁垒。

04.结语:存储芯片巨头打响HBM争霸赛

随着云计算和生成式AI服务越来越受欢迎,对HBM等高性能内存芯片的需求与日俱增。在HBM价格不断上涨的情况下,英伟达等芯片巨头仍在预订更多HBM产能来满足其GPU需求,这导致HBM3芯片的供给更加紧俏。

在今年资本支出大幅下降的情况下,在HBM市场领先的SK海力士正通过提高生产力、加快设备交付时间和削减其他领域的投资等努力,确保HBM3的产能和投资。稳居全球存储芯片第一的三星,自然不甘在HBM这一极具前景的细分市场屈居于SK海力士身后,亦加大马力争取新订单并专注于HBM等高附加值产品的销售。

全球排名第三的美国存储芯片巨头美光科技也在上周面向AI客户发布了最新DRAM四年路线图,包括用于AI和高性能计算应用的HBMNext。到2024年,美光科技HBM3E预计将在第三季度/第四季度开始出货。

4a3a89e8-3520-11ee-9e74-dac502259ad0.png

▲美光科技披露面向AI基础设施需求的解决方案路线图

存储芯片巨头们正在严阵以待,通过加大在先进技术突破和扩大产能方面的投资,为持续到来的HBM等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK海力士能否在HBM技术和市场保持领先身位、长期掌握议价权,也是业界强烈关注的焦点。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DRAM芯片
    +关注

    关注

    1

    文章

    88

    浏览量

    18417
  • 存储芯片
    +关注

    关注

    11

    文章

    942

    浏览量

    44287
  • 图形处理器
    +关注

    关注

    0

    文章

    202

    浏览量

    27202
  • HBM
    HBM
    +关注

    关注

    2

    文章

    416

    浏览量

    15314
  • DDR5
    +关注

    关注

    1

    文章

    448

    浏览量

    24999

原文标题:存储芯片巨头,开启AI算力争霸赛

文章出处:【微信号:算力基建,微信公众号:算力基建】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI推理的存储,看好SRAM?

    看到了其前景并提前布局。AI推理也使得存储HBM不再是唯一热门,更多存储芯片AI推理芯片结合,拥有了市场机会。 ? 已经有不少
    的头像 发表于 03-03 08:51 ?1831次阅读
    <b class='flag-5'>AI</b>推理的<b class='flag-5'>存储</b>,看好SRAM?

    半导体存储芯片核心解析

    前言:什么是烧录-义嘉泰带你深度了解IC烧录服务: https://bbs.elecfans.com/jishu_2491063_1_1.html 1. 为什么需要存储芯片? 计算机和人脑一样,需要
    发表于 06-24 09:09

    深入解析#智能灯具 中与#创世 #贴片式TF卡 #NAND #Flash 的协同应用 #存储芯片

    存储芯片
    深圳市雷龙发展有限公司
    发布于 :2025年06月23日 18:14:17

    贞光科技代理紫光国芯存储芯片(DRAM),让国产替代更简单

    贞光科技作为业内知名的车规及工业元器件供应商,现已成为紫光国芯存储芯片的授权代理商。在半导体存储芯片国产化的关键时期,这一合作为推动DRAM等关键器件的国产替代开辟了新的渠道。紫光国芯在存储芯片领域
    的头像 发表于 06-13 15:41 ?405次阅读
    贞光科技代理紫光国芯<b class='flag-5'>存储芯片</b>(DRAM),让国产替代更简单

    划片机在存储芯片制造中的应用

    划片机(DicingSaw)在半导体制造中主要用于将晶圆切割成单个芯片(Die),这一过程在内存储存卡(如NAND闪存芯片、SSD、SD卡等)的生产中至关重要。以下是划片机在存储芯片
    的头像 发表于 06-03 18:11 ?308次阅读
    划片机在<b class='flag-5'>存储芯片</b>制造中的应用

    DeepSeek与存储芯片AI眼镜注入新动能

    在人工智能技术飞速发展的2025年,AI眼镜正从科幻概念走向现实生活。而这一进程中,国产大模型DeepSeek与存储芯片技术的协同创新,正在为智能眼镜的智能化、轻量化与实用化注入新动能。本文将从技术突破、产业链联动与未来趋势三个维度,解析这三者的深度关联。
    的头像 发表于 04-14 09:44 ?733次阅读

    划片机在存储芯片切割中的应用优势

    划片机在存储芯片切割领域扮演着至关重要的角色,它利用先进的切割技术,确保存储芯片在切割过程中保持高精度和高稳定性,以满足日益增长的电子产品需求。以下是关于划片机在存储芯片切割中的应用的详细介绍:划片
    的头像 发表于 12-11 16:46 ?794次阅读
    划片机在<b class='flag-5'>存储芯片</b>切割中的应用优势

    英伟达加速认证三星新型AI存储芯片

    近日,英伟达首席执行官黄仁勋近日在接受采访时透露,英伟达正在全力加速对三星最新推出的AI存储芯片——HBM3E的认证进程。这一举措标志着英伟达在AI存储技术上的又一次重要布局。 据黄仁
    的头像 发表于 11-26 10:22 ?729次阅读

    如何格式化贴片式SD卡/贴片式TF卡(SD NAND)#电路知识 #pcb设计 #芯片 #存储芯片 #嵌入式

    存储芯片
    深圳市雷龙发展有限公司
    发布于 :2024年11月19日 15:13:14

    存储芯片的基础知识

    众所周知,存储芯片是半导体产业里的一大分支,而且随着信息时代的到来,地位越来越重要。近十年来,存储器的市场规模步步攀升,现在已经占到了半导体总体的30%多。今天就来浅浅地聊一下存储器。 其实
    的头像 发表于 11-15 12:45 ?2135次阅读
    <b class='flag-5'>存储芯片</b>的基础知识

    一文带你了解什么是SD NAND存储芯片

    的市场份额,有着不可取代的地位。   随着芯片的发展存储芯片的趋势也开始不甘落后,有着越来越多的新型的芯片问世,这里就要提起SD NAND芯片了,市面上主流的生产厂家就是雷龙。   S
    发表于 11-13 15:20

    UV三防漆:存储芯片的隐形盔甲

    在日新月异的电子科技领域,存储芯片作为数据的核心载体,其稳定性和耐用性直接关系到信息的安全与完整。面对复杂多变的运行环境,如何为存储芯片提供一道坚固的防护屏障,成为了电子制造业亟待解决的关键问题
    的头像 发表于 10-31 10:05 ?586次阅读

    ESP32应用教程—SD NAND如何记录飞控LOG#SDNAND #硬件 #存储芯片

    存储芯片
    深圳市雷龙发展有限公司
    发布于 :2024年10月09日 16:51:51

    韩企存储芯片在华热销,营收翻倍增长

    2024年上半年,韩国存储芯片巨头三星电子与SK海力士在中国市场的表现极为亮眼,营收均实现了超过100%的显著增长。这一骄人成绩主要得益于全球存储芯片市场需求的强劲复苏以及产品价格的持续上扬。
    的头像 发表于 09-09 17:58 ?1160次阅读

    半导体市场迎高增长,AI存储芯片成主要驱动力

    记者会上由SEMI产业研究资深总监曾瑞榆揭晓。他指出,人工智能(AI芯片存储芯片的强劲需求是推动这一增长趋势的主要动力。
    的头像 发表于 09-04 16:54 ?951次阅读