0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

驱动 AI 的未来

Molex莫仕连接器 ? 来源:Molex莫仕连接器 ? 2023-12-07 15:10 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

人工智能AI)性能的新突破,掀起了一场未来强大数据中心的竞赛。随着 AI 应用的复杂性不断提高,以及对计算的需求呈指数级增长,电源可能决定着哪些数据中心可提升到更高一级的处理水平并保持领先地位。

近年来,AI 在各行各业带来了翻天覆地的变化——从医疗保健和金融到交通运输。机器学习算法和深度神经网络已成为数据分析、模式识别和决策方面的强大工具。然而,这些 AI 应用需要大量的计算能力和能源才能有效运作。

训练大的 AI 模型可能会消耗大量电力,图形处理器 (GPU) 或张量处理器 (TPU) 等专用硬件常常被用来执行深度学习算法所需的复杂矩阵计算,这样的计算速度比传统 CPU 快得多。这些专用硬件单元旨在处理大量数据以及优化机器学习所需的处理。

当大模型开始扩展

近期的例子表明,训练模型可能需要多达数百千瓦的电力。例如,OpenAI 的大语言模型 (LLM) GPT-3 的训练使用了 1,750 亿个参数和来自互联网的 570GB 数据,据称消耗了 355 兆瓦的电力。

OpenAI 的下一个版本 GPT-4 比 GPT-3 强大数百倍,其训练集包括 170 万亿个参数,使其成为有史以来最强大的 AI 引擎——至少在目前是这样。

OpenAI 使用了 Microsoft Azure 数据中心来开展 GPT 项目。公司将会继续在自己的场所内打造并维护数据中心,以帮助提升自身知名度或迅速扩大用户群。但公司可能还需要依赖基于云的服务,例如 Microsoft Azure、Amazon Web Services 和 Google Cloud Platform,以提供额外计算能力来满足突然激增的需求。

这些大规模云平台一直引领着超大规模数据中心最佳实践的发展,并推动数据中心在计算速度和带宽方面的性能不断进步。

在这个竞争激烈的环境中,前景广阔 AI 项目将会在最大计算处理负载的可靠数据中心方面展开争夺。展望 AI 发展和数据中心升级的下一阶段,可能没有足够的优质数据中心服务供每个人使用。

造成瓶颈的原因在很大程度上可能是电力限制。一项以 800 多名设计工程师及其经理为调查对象的 Molex莫仕调查显示,40% 的受访者将电源管理列为在数据中心实施电源系统时面临的最大挑战。有 20% 的受访者认为,配电问题是第二大挑战。

让数据能力翻倍

当今一流的数据中心可提供高达 112 Gbps 的数据传输率。许多数据中心正在升级硬件和连接器,以期达到这种速度和性能水平。

打造224 Gbps-PAM4数据中心趋势已初现端倪,以满足不断增长的 AI 处理需求。然而,适用于 224G 的基础设施组件还处于上市的早期阶段,这意味着完全采用 224G 技术的设施要在几年后才会普及。

让全世界数据中心的数据传输率总体上翻倍将是一项艰巨的任务,因为这需要大幅增加发电量。鉴于如今 AI 消耗的能源量占了能源消耗总量的 2%,未来的升级可能相当于在这个世界新增几个大城市,每个城市需要有自己的发电厂。

事实上,典型 GPU 模块的电力需求已从 2018 年的每个模块 450W 增加到 2022 年的 1000W,OCP OAM 的电力需求从每个机箱 3600W 增加到 8000W——推动这种增长的因素是对更强计算能力的需求。这种电力增长带来了前所未有的高发热量,并促使需要能够耐受更高温度的散热片和组件。Molex莫仕 Mirror Mezz 连接器可满足更高的电力需求并实现相关的热管理。这些连接器可用于 450W 和 1000W GPU 型号,且具有出色的气冷和液冷性能。

适应未来发展趋势

AI 数据中心的电力需求成倍增长,这与现有设施的局限性形成了矛盾,解决这种矛盾需要创造性的解决方案。目前,一些超大规模数据中心可能只是因为地理位置不佳而无法进行下一代升级。某些地区可能不会选择将本已有限的发电量分配给云服务提供商。而且,老旧的电网(即使已开始过渡到使用可再生资源)可能会出现间歇性停电,事实证明,这种情况会导致数据服务出现问题。

随着数据中心从一种技术过渡到另一种技术并充分利用内部配电架构,数据中心内部也可能会出现瓶颈。除了硬件投资外,行业打造 AI 驱动的数据中心的趋势,数据中心还必须着眼于寻找新方法优化自身的功耗。优化功耗的方法可能包括使用先进的冷却系统、高效节能的硬件和创新的电源管理策略。对于想方设法优化现有资源的数据中心来说,AI 驱动的管理工具甚至可能是理想的未来解决方案。

AI 不断重塑计算世界,数据中心必须做出调整,以满足这些应用不断增长的需求。随着 AI 领域的发展,以及越来越多公司希望在业务中部署 AI 应用,对强大计算资源的争夺将愈演愈烈。数据中心运营商必须投资于最新的技术和策略,以在这个不断变化的环境中保持领先地位和竞争优势。因此,Molex莫仕投资于未来的技术,其中包括 224 Gbps-PAM4 功能以及一整套数据中心电源管理解决方案。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 连接器
    +关注

    关注

    99

    文章

    15519

    浏览量

    141526
  • AI
    AI
    +关注

    关注

    88

    文章

    35758

    浏览量

    282454
  • 机器学习
    +关注

    关注

    66

    文章

    8513

    浏览量

    135106
  • 莫仕
    +关注

    关注

    0

    文章

    95

    浏览量

    12053
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI未来,属于那些既能写代码,又能焊电路的“双栖人才”

    AI未来,属于那些既能写代码,又能焊电路的“双栖人才”——来自WAIC 2025的一线观察2025年7月,上海世博中心,**第七届世界人工智能大会(WAIC 2025)**上,我们看到一个格外清晰
    发表于 07-30 16:15

    【书籍评测活动NO.64】AI芯片,从过去走向未来:《AI芯片:科技探索与AGI愿景》

    :elecfans_666)。 AI芯片,从过去走向未来 四年前,市面上仅有的一本AI芯片全书在世界范围内掀起一阵求知热潮,这本畅销书就是《AI芯片:前沿技术与创新
    发表于 07-28 13:54

    中软国际科创中心驱动AI产业未来发展

    当前,AI产业生态整体性跃升带来产业格局加速重塑,同时,培养适应产业发展需要的未来人才成为新课题。中软国际科创中心以服务模式创新与产业协同双轮驱动 AI 产业发展,打造智能时代发展新引
    的头像 发表于 05-20 15:57 ?426次阅读

    AI技术助力打造绿色未来

    AI 能否引领我们走向更可持续的未来,还是会加剧全球能源和气候挑战?
    的头像 发表于 05-19 11:13 ?470次阅读

    Banana Pi 发布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    助力 AI、智能制造和物联网行业的发展。未来,Banana Pi 将继续深化与Renesas的技术合作,推动更多高性能嵌入式解决方案的落地。 ” BPI-AI2N开发板赋能多场景应用,结合丰富接口与高效
    发表于 03-19 17:54

    数据采集在AI行业的应用、优势及未来发展趋势

    人工智能(AI)作为21世纪最具革命性的技术之一,正在深刻改变各行各业。AI的核心驱动力是数据,而数据采集则是AI发展的基石。无论是机器学习、深度学习,还是自然语言处理、计算机视觉等领
    的头像 发表于 03-07 14:12 ?763次阅读
    数据采集在<b class='flag-5'>AI</b>行业的应用、优势及<b class='flag-5'>未来</b>发展趋势

    FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......

    ”“大模型圈的大黑马”“硅谷震惊了”“来自中国的学霸级AI”…… 从智能手机到自动驾驶,从数据中心到物联网,FPGA 正悄然改变着我们的生活。未来,FPGA 又将如何塑造世界?DeepSeek 带你一起
    发表于 03-03 11:21

    数据驱动AI工具好用吗

    当今,数据驱动AI工具,正逐渐成为企业和研究机构提升效率、优化决策、创新服务的关键手段。那么,数据驱动AI工具好用吗?下面,AI部落小编带您
    的头像 发表于 02-14 09:17 ?456次阅读

    数据驱动AI工具在哪

    数据驱动AI工具并不遥远,它们就存在于我们的日常生活中,只是我们可能没有意识到。这些工具通常被嵌入到各种应用程序、软件和服务中,为我们提供便利。接下来,AI部落小编为您详细介绍数据驱动
    的头像 发表于 12-09 10:52 ?546次阅读

    未来AI大模型的发展趋势

    未来AI大模型的发展趋势将呈现多元化和深入化的特点,以下是对其发展趋势的分析: 一、技术驱动与创新 算法与架构优化 : 随着Transformer架构的广泛应用,AI大模型在特征提取和
    的头像 发表于 10-23 15:06 ?2098次阅读

    AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 在阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    农业、环保等,为人类社会的可持续发展做出贡献。 总结 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们展示了一个充满希望和机遇的未来。在这个
    发表于 10-14 09:21

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    非常高兴本周末收到一本新书,也非常感谢平台提供阅读机会。 这是一本挺好的书,包装精美,内容详实,干活满满。 关于《AI for Science:人工智能驱动科学创新》第二章“AI
    发表于 10-14 09:16

    AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    。 5. 展望未来 最后,第一章让我对人工智能驱动的科学创新未来充满了期待。随着技术的不断进步和应用场景的拓展,AI将在更多领域发挥关键作用,从基础科学到应用科学,从理论研究到实践应用
    发表于 10-14 09:12

    英特尔携手运营商伙伴,共探AI驱动通信网络新未来

    ,深度探讨了英特尔网络与边缘AI技术如何驱动通信和网络转型,全方位展示了未来AI与网络融合的智慧蓝图。 英特尔中国网络与边缘事业部网络事业总经理阮伯超表示:“电信行业是英特尔重点投入的
    的头像 发表于 09-27 09:26 ?558次阅读
    英特尔携手运营商伙伴,共探<b class='flag-5'>AI</b><b class='flag-5'>驱动</b>通信网络新<b class='flag-5'>未来</b>