国产 AI 大模型 DeepSeek 以出色的性价比和高效的模型技术,迅速成为全球 AI 关注的焦点。Firefly 开源团队率先实现 AIBOX 系列产品对 DeepSeek-R1 的全面适配。

R1 模型性能数据
DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力,目前基于开源的 R1 模型具有 1.5B-70B 可选,这些蒸馏模型更合适进行本地部署在端侧使用,用于各行各业的项目落地。

AIBOX 实机演示
Firefly 开源团队对 DeepSeek-R1 系列的蒸馏模型进行移植,完成 AIBOX 系列产品对 DeepSeek-R1 的全面适配,以下是实机演示:
通过视频可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考阶段思路清晰,并给出准确回答。同时,从硬件性能方面看,AIBOX在推理阶段高达到29.187 token/s,能够实现准确、快速的 AI 对话。
模型实测情况
以下是 AIBOX 产品的实测结果:

DeepSeek-R1 产品体验
AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点,算力覆盖 6-157 TOPS,通过搭配多样化深度学习算法,为多个智慧行业进行数字化赋能,AIBOX 全系列产品已在 Firefly 官方平台上线,立即体验属于自己的本地化 DeepSeek!

-
AI
+关注
关注
88文章
35476浏览量
281261 -
大模型
+关注
关注
2文章
3191浏览量
4147 -
DeepSeek
+关注
关注
2文章
804浏览量
1828
发布评论请先 登录
如何使用OpenVINO运行DeepSeek-R1蒸馏模型

RK3588开发板上部署DeepSeek-R1大模型的完整指南
行芯完成DeepSeek-R1大模型本地化部署
Infinix AI接入DeepSeek-R1满血版
了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择
超星未来惊蛰R1芯片适配DeepSeek-R1模型
软通动力天璇MaaS融合DeepSeek-R1,引领企业智能化转型
deepin UOS AI接入DeepSeek-R1模型
行业首家!数势科技SwiftAgent全面接入DeepSeek-R1

芯动力神速适配DeepSeek-R1大模型,AI芯片设计迈入“快车道”!

DeepSeek-R1全尺寸版本上线Gitee AI
原生鸿蒙版小艺App上架DeepSeek-R1, AI智慧体验更丰富
行业首家!数势科技SwiftAgent全面接入DeepSeek-R1

对标OpenAI o1,DeepSeek-R1发布

评论