星环科技近日宣布,其企业级大模型运营管理平台Sophon LLMOps现已全面支持DeepSeek R1的全参版本以及蒸馏版本。这一消息标志着星环科技在AI大模型管理领域迈出了重要一步。
Sophon LLMOps作为一款功能强大的企业级平台,致力于为用户提供全面的大模型运营管理解决方案。该平台支持大模型与小模型的统一管理,能够轻松纳管开源及商业化大模型,满足用户多样化的需求。同时,Sophon LLMOps还具备底层国内外GPU/NPU(ARM/x86)异构算力的混合部署能力,实现了资源的精细化切分及高效调度,进一步提升了系统的灵活性和性能。
此外,Sophon LLMOps还提供了模型及应用效果评估、全局状态监控及预警等功能,帮助用户实时掌握模型运行状况,确保系统的稳定运行。这些功能的加入,使得Sophon LLMOps成为了一款真正意义上的企业级大模型运营管理平台,为用户提供了从模型部署到运行管理的全方位支持。
-
星环科技
+关注
关注
0文章
37浏览量
2780 -
大模型
+关注
关注
2文章
3193浏览量
4148 -
DeepSeek
+关注
关注
2文章
804浏览量
1842
发布评论请先 登录
DeepSeek开源新版R1 媲美OpenAI o3
RK3588开发板上部署DeepSeek-R1大模型的完整指南
OpenAI O3与DeepSeek R1:推理模型性能深度分析
IBM在watsonx.ai平台推出DeepSeek R1蒸馏模型
了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择
DeepSeek V3/R1满血版登陆华为云
景嘉微完成DeepSeek R1系列模型适配
Deepseek R1大模型离线部署教程

部署DeepSeek R1于AX650N与AX630C平台

扣子平台支持DeepSeek R1与V3模型
Krea发布Deepseek R1驱动的Chat功能
云天励飞上线DeepSeek R1系列模型

评论