0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昆仑芯超节点产品推出,大模型训推任务性能跨越式提升

昆仑芯科技 ? 来源: 昆仑芯科技 ? 2025-04-25 19:29 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

开年后,随着DeepSeek席卷千行百业,昆仑芯率先适配、业内首家单机部署满血版展示卓越性能,并在互联网、科研、金融等领域实现规模部署,一系列进展引发广泛关注。刚刚落幕的Create2025百度AI开发者大会上,昆仑芯作为底层算力核心被高频提及,三万卡集群点亮振奋人心,昆仑芯超节点也在大会上正式发布。

自ChatGPT问世,大模型参数快速增长,单卡显存无法容纳越来越大的模型参数,大模型对AI算力系统的并行通信能力提出越来越高的要求;同时开源MoE模型在多专家并行过程中也需要更高的通信效率。DeepSeek-V3/R1加速产业落地,AI算力集群对系统可扩展能力的需求变得空前迫切。

基于对大模型演进趋势及算力需求的前瞻预测,昆仑芯团队率先布局、潜心研发,面向大规模算力场景推出超节点新品,为AI算力集群性能优化和效率提升提供一套全栈解决方案。

1

全互联通信带宽提升8倍

训推性能跨越式提升

通过硬件架构创新,昆仑芯超节点突破传统单机8卡产品形态,超高密度设计使得单柜可容纳32/64张昆仑芯AI加速卡。单柜内卡间实现全互联通信,带宽提升高达8倍,一个机柜的算力最高可达到传统形态下8台8卡服务器,实现对MoE大模型单节点训练性能5-10倍、单卡推理效率13倍的大幅提升。

2

整柜功率可支持到120kW

大幅降低PUE

在能耗和散热方面,昆仑芯积极响应节能降耗政策,采用高效的冷板式液冷方式进行系统散热,整柜功率可支持到120kW,大幅降低数据中心的PUE(Power Usage Effectiveness,数据中心消耗的所有能源与IT负载消耗的能源的比值)。不仅如此,昆仑芯超节点支持液冷系统的漏液检测,可及时针对液冷故障进行预警、告警、修复等,最大化提高整机柜系统无间断稳定运行效率。

3

机柜间IB/RoCE通信

高带宽、低延迟

当前,各级政府、众多行业和头部企业集中发力,正在加快建设一批超大规模智算中心。针对集群拓展需求,昆仑芯超节点机柜间支持IB/RoCE通信,可实现跨柜高带宽、低延迟的数据传输,支持万卡以上规模的智算集群构建。

4

自研XPU Link

兼容主流scale-up通信标准

昆仑芯自研互联通信协议XPU Link,秉承一贯的“共生共赢”发展理念,昆仑芯XPU Link兼容业界主流scale-up通信标准,与上下游合作伙伴共建超节点行业生态,携手推动国产AI算力在超节点集群中的规模部署和产业应用。

颠覆式的大模型和AI应用加速推动AI步入产业落地新阶段。AI下半场,昆仑芯凭借在芯片架构、集群系统、软件生态领域的深厚积累和全栈优势,竞争实力越发凸显。

目前,昆仑芯已实现三代产品大规模部署落地,通过与数百家客户紧密合作,将AI算力输送到互联网、运营商、智算、金融、能源电力、汽车等等千行万业,惠及数以亿计的终端用户。面向未来,昆仑芯将持续深耕AI芯片技术研发和产业应用,为我国AI产业发展注入源源不断的澎湃动力。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 昆仑芯科技
    +关注

    关注

    0

    文章

    33

    浏览量

    859
  • 大模型
    +关注

    关注

    2

    文章

    3193

    浏览量

    4154

原文标题:重磅发布!昆仑芯超节点产品推出,大模型训推任务性能跨越式提升

文章出处:【微信号:昆仑芯科技,微信公众号:昆仑芯科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    面向万亿级参数大模型,“节点”涌现

    UniPoD系列节点产品,旨在为万亿级参数大模型的训练与推理提供更强劲、更智能且更绿色的算力支持。 ? H3C UniPoD系列
    的头像 发表于 08-03 02:37 ?4563次阅读

    华为助力中国石油发布3000亿参数昆仑模型

    昆仑模型完成备案,成为中国能源化工行业首个通过备案的大模型,到2024年11月发布700亿参数昆仑模型建设成果,中国石油始终紧紧围绕行业
    的头像 发表于 05-29 09:19 ?573次阅读
    华为助力中国石油发布3000亿参数<b class='flag-5'>昆仑</b>大<b class='flag-5'>模型</b>

    华为云黄瑾:昇腾云CloudMatrix 384节点六大科技创新,定义下一代AI基础设施

    近日,华为云 AI 峰会在北京召开,华为云副总裁黄瑾发表主题演讲,介绍了更多 CloudMatrix 384 节点技术优势与细节。他指出,随着大模型训练和推理对算力需求的爆炸增长,
    的头像 发表于 05-17 10:31 ?1334次阅读

    Imagination 宣布推出 E-Series GPU:开启Edge AI 与图形处理新时代

    E-Series 带来跨越式性能提升,使 GPU 成为边缘设备图形与 AI 的核心加速引擎
    的头像 发表于 05-09 16:16 ?260次阅读

    中科昊DSP产品及公司信息

    产品提升了50%-110%,展现了强大的计算性能。此外,部分型号的DSP还提供了高达2MB的Flash存储,满足了用户对大容量存储的需求。而在高精度ADC和PWM方面,中科昊的DS
    发表于 04-07 09:16

    昆仑科技亮相2025中关村论坛

    此前,3月27日至31日,2025中关村论坛在京举办,昆仑科技与中国移动首次公开展示联合产业合作伙伴共同开发的64卡节点智算服务器。该服务器依托
    的头像 发表于 04-02 11:22 ?719次阅读

    昆仑服务器中标招商银行AI芯片资源项目

    近日,昆仑服务器中标招商银行AI芯片资源项目。基于该项目,昆仑P800将围绕多个核心业务场景,全面支持招商银行落地大模型应用。
    的头像 发表于 03-28 14:47 ?900次阅读

    雨量水位监测站实时传输的跨越式发展

    在水文监测领域,雨量水位监测站作为获取关键水情信息的重要设施,其数据实时传输技术的发展历程,堪称一部不断突破、实现跨越式进步的科技进化史。从早期传输的诸多局限,到如今的高效、精准传输,这一过程不仅反映了技术的日新月异,更为水资源管理、防汛减灾等工作带来了巨大变革。
    的头像 发表于 03-20 16:27 ?287次阅读

    DeepSeek一体机:加速AI融合,推动行业智能化落地

    本地部署推出FusionCube A3000融合一体机,以“数据-模型-应用”全流程创新,破解大
    的头像 发表于 02-20 11:14 ?883次阅读
    DeepSeek一体机:加速AI<b class='flag-5'>训</b><b class='flag-5'>推</b><b class='flag-5'>超</b>融合,推动行业智能化落地

    云从科技从容大模型一体机成功适配DeepSeek

    了新的动能。 从容大模型一体机是云从科技基于昇腾AI基础软硬件平台推出的创新产品。该产品集成
    的头像 发表于 02-14 15:44 ?910次阅读

    云天天书大模型一体机成功适配DeepSeek

    近日,云天天书大模型一体机成功适配DeepSeek。该一体机由云天励飞与华为联合推出,可以部署在华为昇腾服务器上,支持私有化部署,实现开箱即用,满足本地化、专属化的业务需求。
    的头像 发表于 02-14 11:02 ?1015次阅读

    瀚博完成DeepSeek全版本适配

    国产高端GPU芯片提供商瀚博半导体(以下简称“瀚博”)已完成DeepSeek-V3与R1全系列模型适配,单机可支持V3与R1 671B全量满血版模型部署。
    的头像 发表于 02-08 11:28 ?1964次阅读

    首发 | 昆仑 | 国产AI卡Deepseek训练推理全版本适配、性能卓越,一键部署等您来(附文档下载方式)

    全球增速最快的AI应用。凭借卓越的性能和广泛的应用场景,这匹大模型黑马已然成为行业标杆,为千行百业提供了AI解决方案新选择。 蛇年开工当天,昆仑新一代
    发表于 02-06 15:28 ?942次阅读
    首发 | <b class='flag-5'>昆仑</b><b class='flag-5'>芯</b> | 国产AI卡Deepseek训练推理全版本适配、<b class='flag-5'>性能</b>卓越,一键部署等您来(附文档下载方式)

    昆仑率先完成Deepseek训练推理全版本适配

    本文是昆仑适配DeepSeek系列文第一篇,将于近期分别推出昆仑P800上进行DeepS
    的头像 发表于 02-06 15:13 ?1549次阅读
    <b class='flag-5'>昆仑</b><b class='flag-5'>芯</b>率先完成Deepseek训练推理全版本适配

    MediaTek天玑9400旗舰助力打造PC级游戏体验

    每一场紧张刺激的游戏对战,都是对手机性能的重重考验。想要兼得持久满帧与低功耗游戏体验?当然少不了天玑 9400 旗舰的加持,其采用的旗舰级 12 核 GPU Immortalis-G925,带来图形计算能力的跨越式
    的头像 发表于 10-27 10:07 ?876次阅读