来源:硅基流动
今天,硅基流动联合沐曦集成电路(上海)股份有限公司(简称“沐曦”),全球首发基于沐曦曦云 C550 集群的月之暗面 Kimi-K2 大模型商业化服务部署。该服务运行于汇天网络科技有限公司(简称“汇天网络”)运营的沐曦曦云C550 三千卡通用 GPU 国产集群。此次合作标志着硅基流动正式将该国产集群纳入算力网络,进一步为大模型产业落地提供充沛的高性能国产算力。
技术突破层面,三方通过芯片层、框架层、模型层的深度协同优化,显著提升了 Kimi-K2 在曦云 C550 集群上的推理效率。沐曦自主研发的曦云 C550 通用 GPU 为模型提供了高性能、高稳定的核心硬件支撑,可以大幅增加集群算力,缩短大模型计算及推理时间;硅基流动将曦云 C550 集群接入一站式算力纳管平台,丰富了算力资源,并依托自研推理加速引擎,将集群利用率提升至业界领先水平,最终在其大模型云服务平台提供金融级高可靠性、高速响应、高性价比的 Kimi-K2 推理服务。
此次落地在汇天网络的沐曦国产 GPU 集群,是华北地区首个专为大模型规模化商用设计的高性能算力基础设施。该集群纳入硅基流动大模型云服务平台后,将重点服务于金融、政务、教育、科研等领域的头部客户,提供企业级 AI 推理部署解决方案。
下一步,硅基流动、汇天网络与沐曦三方将围绕"北京国产万卡集群"建设目标,持续推进集群硬件扩容与绿色 AIDC 技术研发。同时,三方将深化与国内主流大模型企业的生态合作,通过"算力-算法-应用"的全链路协同创新,突破产业链应用瓶颈,助力“国产算力+大模型产业”实现从技术突破到商业化落地的跨越式发展。
关于沐曦
沐曦致力于自主研发全栈高性能GPU芯片及计算平台,为智算、通用计算、云渲染等前沿领域提供高能效、高通用性的算力支撑,助力数字经济发展。
-
集成电路
+关注
关注
5428文章
12096浏览量
368747 -
沐曦
+关注
关注
0文章
35浏览量
1461 -
大模型
+关注
关注
2文章
3165浏览量
4114
原文标题:硅基流动联合沐曦首发基于曦云的 Kimi K2 推理服务,落地汇天网络北京国产 GPU 智算集群
文章出处:【微信号:沐曦MetaX,微信公众号:沐曦MetaX】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
万亿参数!元脑企智一体机率先支持Kimi K2大模型

阿里云领投,硅基流动深耕AI基建破解大模型成本难题
PaddleScience完成与沐曦AI芯片适配
曦智科技时隔八年再登《Nature》,光电混合计算架构首次公开

沐曦曦云C500通用计算GPU与百度飞桨完成Ⅱ级兼容性测试
曦智科技全球首发新一代光电混合计算卡

沐曦加速DeepSeek满血版单卡C500异构推理
Gitee AI 联合沐曦首发全套 DeepSeek R1 千问蒸馏模型,全免费体验!

国产智算集群黑马!曦源一号SADA算力集群综合评测表现优异

评论