0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI和机器学习应用需求疯涨或使GDDR内存供应短缺

NJ90_gh_bee81f8 ? 来源:未知 ? 作者:胡薇 ? 2018-08-02 11:30 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

GDDR (图像双倍数据传输率)内存技术是专为高端显卡而设计的高效能DDR规格,因此,其中的‘G’仍然象征着“图像”(graphics);不过,近来推动对于GDDR内存技术需求的新应用,显然已经与像素无关了。

事实上,诸如人工智能(AI)和机器学习等需要超快速内存的应用,已经使得GDDR内存供应短缺了,因此,GDDR的制造商如果能把握机会加速量产,现在正是一个不错的时机。例如,美光科技(Micron Technology)最近开始量产其8Gb GDDR6 (第六代图像双倍数据传输率)内存,当然瞄准的就是图像市场,同时也看好近来热门的汽车与网络等领域。

GDDR内存的一些新兴应用仍然是图像导向的。在不断成长中的车用内存市场,它将支持越来越多的视觉仪表板和先进驾驶辅助系统(ADAS),这些系统都必须立即回应驾驶人的动作,而自动驾驶车更需要高性能内存来处理大量的实时数据。其他新兴应用还包括增强现实(AR)和虚拟现实(VR)。当然,视讯对于内存的需求永远不嫌太多,尤其是4K已经越来越被广泛采用了,紧随其后的就是8K规格。

美光运算连网业务部总监Andreas Schlapka表示,过去三年来,传统的GDDR应用,如显卡和游戏机,开始扩展到更多的连网应用和自动驾驶。在现代化的车辆中,高性能内存必须处理来自传感器和摄影机产生的庞大数据量。同样地,先进的连网技术也开始采用GDDR实现网络适配器(NIC)。他说:“五年前,数据中心的最大流量来自数据的输入和输出。在特定节点上完成有关的信息,然后再传送回用户的终端。”而今,数据中心的更多流量来自不同节点之间的数据传输,从而推动对于传输速率的巨大需求。

随着更多内存被加进同一封装中,每一世代的GDDR内存(包括美光)技术不断在改进中,而且更加强调以更低功耗执行更快的速度

提到传输速率时,Schlapka说,随着加密货币和加密挖矿蔚为主流,GDDR技术也十分有利于加密货币应用。庞大的数据资必须快速地运行,因此,所采用的内存必须能与A6或GPU并驾齐驱。同样地,高性能运算,特别是AI,也都受惠于GDDR的高带宽优势。他说:“如果你要训练神经网络,就必须尽可能地执行最多的数据,理想情况下,从每一针脚到每一位都得算计在内。你必须将其加载内存中,然后快速地进行运算。我认为这就是GDDR得以有效发挥之处,而且够成为理想的解决方案。”

三星半导体(Samsung Semiconductor)专用DRAM营销经理Tien Shiah说,GDDR持续稳步发展中,每个接脚的速度更快,而且传统上搭配GPU用于图像应用中。“现在,GPU正在寻找专用领域,特别是高端GPU开始进入机器学习类型的应用,因为这一类AI算法非常适合 GPU的平行架构。”但是,他说,有些应用还需要进一步的发展,以及采用高带宽内存(HBM)。三星自今年初开始为先进图像系统生产16Gbit GDDR6。

虽然许多新兴的GDDR技术应用都来自汽车和高性能运算领域,但新的消费类应用也不断出现,例如8K视频处理、AR和VR等。不过,Shiah指出,AR/VR应用的发展并不如预期。

Shiah说:“这项技术存在着许多的市场炒作和用户的兴奋情绪,然后,随着人们开始导入后,有些人却感到恶心和晕眩,但这其实与计算机系统是否足够强大有关。”他说,早期的产品为了进入市场通常会降低规格,以便让更多人都能使用这项技术,但其折衷之处就是导致有些人感到头晕目眩。“随着计算机系统每一年都会变得更加强大,以及GDDR6等图像技术的处理能力提高,AR/VR的体验会更好。再加上由于GPU和CPU的性能不断进展,越来越多人将能享受这项技术的乐趣,而接下来的新战场就会转移到内存了。”

好消息是,它并不像近年来面临障碍的平面NAND,或需要等3D变得更具成本效益才能继续向前发展,GDDR看来还有很多的选择。Shiah说:“我们一直在研究未来将会发生什么,现在,我们并未看到任何障碍,接下来也将继续致力于该技术的进展。”

Schlapka也看到了新兴内存技术的成长空间,而且,除了GDDR6之外还有其他技术,无论是GDDR7还是其他内存。“我们认为还有空间可以进一步发展像GDDR6这一类平行技术,但这是我们在接下来四到五年内需要探讨的问题。”

三星在今年初为先进图像系统量产16Gigabit GDDR6内存

GDDR的当前迭代已达到临界点了。Jon Peddie Research负责人Jon Peddie表示,作为JEDEC标准之一,它已经通过几家公司将其纳入产品的完整测试了,包括 AMD英伟达 (Nvidia)和高通(Qualcomm)等。他说:“这些公司都投入了这项技术,更进一步确保它是竹十分可靠的。”美光是第一家进入大规模量产的公司。“这对于游戏玩家来说是个好消息,对于AI开发人员来说是好消息,对于工作站人员来说也是一个大好消息。这一切都是好消息,而且当他们学会如何从工艺中挤出更多产能时,一切还会更美好。”

然而,正如其他技术一样,摩尔定律(Moore’s Law)也对于GDDR的可扩展性带来挑战。Peddie说:“GDDR6建立在摩尔最新、最好的工艺节点上,而且与任何新工艺节点一样,在量产方面也存在着问题。不过,随着半导体制造商日益熟悉如何建构这些产品以及经验更丰富时,产量将会越来越高。”理想的产量意味着制造商将会开始“赚钱”,他说,但随着工艺节点进入个位数的纳米级时,意味着还必须处理难以实现量产制造的“原子级”议题。

无论如何,GDDR内存目前正处于一个理想的发展位置,而且每一世代都持续改善中。Peddie说:“你将会看到一个美好的摩尔定律模式——更多的内存整合于同一封装中,而且能以更低功耗实现更快速运作。这就是摩尔定律的精神所在。GDDR系列内存正是摩尔定律如何运作的典型例子。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    88

    文章

    35916

    浏览量

    283097
  • 机器学习
    +关注

    关注

    66

    文章

    8517

    浏览量

    135155
  • GDDR
    +关注

    关注

    0

    文章

    27

    浏览量

    4908

原文标题:AI应用需求疯涨或带来GDDR6缺货潮

文章出处:【微信号:gh_bee81f890fc1,微信公众号:面包板社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    DDR4价格!现货市场狂飙!

    下,渠道抢货助推价格上涨。未来随着大厂的减产,其他内存厂商承接市场需求将持续影响DDR4的供需走势。 ? 极速涨价 ? CFM闪存市场数据显示,近期渠道资源从高端到底部低端料号价格自上而下全线走高,渠道存储厂商仍坚定强势拉
    的头像 发表于 06-19 00:54 ?8944次阅读
    DDR4价格<b class='flag-5'>疯</b><b class='flag-5'>涨</b>!现货市场狂飙!

    【「零基础开发AI Agent」阅读体验】+ 入门篇学习

    很高兴又有机会学习ai技术,这次试读的是「零基础开发AI Agent」,作者叶涛、管锴、张心雨。 大模型的普及是近三年来的一件大事,万物皆可大模型已成为趋势。作为大模型开发应用中重要组成部分,提示词
    发表于 05-02 09:26

    面向AI机器学习应用的开发平台 AMD/Xilinx Versal? AI Edge VEK280

    AMD/Xilinx Versal? AI Edge VEK280评估套件是一款面向AI机器学习应用的开发平台,专为边缘计算场景优化设计。以下从核心配置、技术特性、应用场景及开发支持
    的头像 发表于 04-11 18:33 ?1531次阅读
    面向<b class='flag-5'>AI</b>与<b class='flag-5'>机器</b><b class='flag-5'>学习</b>应用的开发平台 AMD/Xilinx Versal? <b class='flag-5'>AI</b> Edge VEK280

    **【技术干货】Nordic nRF54系列芯片:传感器数据采集与AI机器学习的完美结合**

    传感器数据采集与AI机器学习领域的明星产品。想深入了解?快来评论区交流,点击[链接]获取更多技术细节! ? #nRF54 #AI
    发表于 04-01 00:00

    stm32h750 cube aiai_network_create_and_init了,怎么解决?

    进去发现是卡在ai_platform_network_create,CRC也开了,要
    发表于 03-14 07:22

    铋金属:中低温焊锡膏中的铋金属何去何从?及其在战争中的应用探索

    近期,铋金属市场经历了一轮前所未有的,这一趋势对多个行业产生了深远影响,其中就包括电子焊接领域。中低温焊锡膏作为电子产品制造中不可或缺的材料,其成分中的铋金属正面临着前所未有的挑战与机遇。本文将
    的头像 发表于 03-07 13:43 ?882次阅读
    铋金属<b class='flag-5'>疯</b><b class='flag-5'>涨</b>:中低温焊锡膏中的铋金属何去何从?及其在战争中的应用探索

    AI Agent 应用与项目实战》----- 学习如何开发视频应用

    再次感谢发烧友提供的阅读体验活动。本期跟随《AI Agent 应用与项目实战》这本书学习如何构建开发一个视频应用。AI Agent是一种智能应用,能够根据用户需求和环境变化做出相应响应
    发表于 03-05 19:52

    一文了解LPDDR5X的核心需求和设计

    / 机器学习应用的 HBM。 ?低功耗双倍数据速率(LPDDR)作为一种专门为移动设备(如智能手机和平板电脑)设计的内存出现。 ?LPDDR 的发展主要是由移动设备对更高性能和更低功耗的需求
    的头像 发表于 03-04 14:44 ?928次阅读
    一文了解LPDDR5X的核心<b class='flag-5'>需求</b>和设计

    人工智能和机器学习以及Edge AI的概念与应用

    与人工智能相关各种技术的概念介绍,以及先进的Edge AI(边缘人工智能)的最新发展与相关应用。 人工智能和机器学习是现代科技的核心技术 人工智能(AI)和
    的头像 发表于 01-25 17:37 ?1089次阅读
    人工智能和<b class='flag-5'>机器</b><b class='flag-5'>学习</b>以及Edge <b class='flag-5'>AI</b>的概念与应用

    如何选择云原生机器学习平台

    当今,云原生机器学习平台因其弹性扩展、高效部署、低成本运营等优势,逐渐成为企业构建和部署机器学习应用的首选。然而,市场上的云原生机器
    的头像 发表于 12-25 11:54 ?521次阅读

    HBM与GDDR内存技术全解析

    在高性能图形处理领域,内存技术起着至关重要的作用。本文介绍两种主要的图形内存技术:高带宽内存(HBM)和图形双倍数据速率(GDDR),它们在架构、性能特性和应用场景上各有千秋。通过对比
    的头像 发表于 11-15 10:47 ?3948次阅读
    HBM与<b class='flag-5'>GDDR</b><b class='flag-5'>内存</b>技术全解析

    AI大模型与深度学习的关系

    AI大模型与深度学习之间存在着密不可分的关系,它们互为促进,相辅相成。以下是对两者关系的介绍: 一、深度学习AI大模型的基础 技术支撑 :深度学习
    的头像 发表于 10-23 15:25 ?3134次阅读

    AI大模型与传统机器学习的区别

    多个神经网络层组成,每个层都包含大量的神经元和权重参数。 传统机器学习 :模型规模相对较小,参数数量通常只有几千到几百万个,模型结构相对简单。 二、训练数据需求 AI大模型 :需要大规
    的头像 发表于 10-23 15:01 ?2875次阅读

    RISC-V如何支持不同的AI机器学习框架和库?

    RISC-V如何支持不同的AI机器学习框架和库?还请坛友们多多指教一下。
    发表于 10-10 22:24

    AI引擎机器学习阵列指南

    AMD Versal AI Core 系列和 Versal AI Edge 系列旨在凭借 AI 引擎机器学习 ( ML ) 架构来提供突破性
    的头像 发表于 09-18 09:16 ?931次阅读
    <b class='flag-5'>AI</b>引擎<b class='flag-5'>机器</b><b class='flag-5'>学习</b>阵列指南