?近期,澎峰科技与沐曦完成了对PerfXLM(推理引擎)、PerfXCloud(大模型服务平台)与沐曦的曦云系列通用计算GPU的联合测试,测试结果表明PerfXLM、PerfXCloud软件与沐曦GPU产品实现了全面兼容。
PerfXLM高性能大模型推理引擎与沐曦GPU硬件平台完成适配,PerfXLM采用云边端一体架构,支持云端和本地大模型推理。经过双方联合测试,PerfXLM对沐曦GPU硬件平台的兼容性、稳定性和可靠性上取得极大领先,部分指标实现了对NVIDIA A100的反超。PerfXLM 针对部分大模型的计算性能优化成果堪称卓越,多个主流模型在在该平台的推理总吞吐速度实现了最高达到50%的性能提升。标志着双方在CUDA生态兼容上实现再次突破。
PerfXCloud大模型服务平台与沐曦的GPU硬件平台完成适配,并完成了超80种大模型的推理、微调(包括Qwen系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等)支持,兼容性在国内处于领先地位。未来,双方将不断丰富模型仓库,以满足多样化的应用需求,为用户提供更优质和便捷的模型服务,帮助智算中心升级进化为超级AI Foundry。
此次合作,为国产计算软硬融合和产业链合作建立了示范。未来,双方将以市场需求为导向,共同探索更多可能性,为实现大模型人工智能技术的自主可控和可持续发展贡献力量。
-
gpu
+关注
关注
28文章
4961浏览量
131521 -
澎峰科技
+关注
关注
0文章
72浏览量
3396 -
沐曦
+关注
关注
0文章
36浏览量
1467
原文标题:澎峰科技计算软件栈与沐曦GPU完成适配和互认证
文章出处:【微信号:perfxlab,微信公众号:perfxlab】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
沐曦亮相2025世界人工智能大会
硅基流动携手沐曦首发基于曦云的Kimi K2推理服务
Imagination与澎峰科技携手推动GPU+AI解决方案,共拓计算生态
Imagination与澎峰科技携手推动GPU+AI解决方案,共拓计算生态

PaddleScience完成与沐曦AI芯片适配
沐曦曦云C500通用计算GPU与百度飞桨完成Ⅱ级兼容性测试
沐曦加速DeepSeek满血版单卡C500异构推理
澎峰科技助力中国移动发布智算“芯合”算力原生基础软件栈2.0
摩尔线程与超图软件完成产品兼容认证
澎峰科技高性能大模型推理引擎PerfXLM解析

评论