近期,国产大模型DeepSeek凭借开放性、更低训练成本、端侧部署等优势,迅速成为增速最快的AI应用之一,推动AI普惠化。目前,广和通高算力AI模组及解决方案全面支持小尺寸的DeepSeek-R1模型,高效且灵活地构建深度学习体系,不仅保护数据隐私,更大大提升终端推理和运算能力。
DeepSeek-R1专为数学、代码生成和复杂逻辑推理任务设计,通过大规模强化学习(RL)提升推理能力,结合冷启动,采用强化学习(GRPO算法)训练基座模型。同时,DeepSeek-R1提供了高效模型蒸馏技术,可将大规模模型能力迁移至更小、更高效的版本,优化模型性能、开源应用。经蒸馏后的DeepSeek-R1模型支持部署于端侧,大幅降低计算资源需求,显著提升端侧设备的AI推理效率。
广和通高算力AI模组及解决方案支持DeepSeek-R1蒸馏模型,不仅展现了广和通在端侧AI领域的技术实力,也大大助力了端侧AI规模化商用。面向更广泛的行业端侧AI应用,广和通将积极推动DeepSeek等优质模型在高、中、低算力AI模组及解决方案部署,提供不同参数模型服务,进一步降低端侧AI的门槛,并优化成本,帮助客户快速增强终端AI推理能力,赋能更广泛的物联网设备实现AI化。
基于以上卓越特性,搭载了DeepSeek-R1的广和通AI模组及解决方案将在自动驾驶(实现路径规划和动态避障)、机器人控制(复杂环境下自主导航和操作)、智能制造(生产线优化与资源调度)、智慧医疗(手术辅助、智能诊断)、AI智能体(自动化办公、智能监控与决策)等场景广泛应用。
“DeepSeek-R1蒸馏模型结合广和通AI模组和解决方案,驱动端侧AI商用落地”,广和通AI研究院院长刘子威表示:“随着AI不断发展,端侧设备的智能化成为物联网发展的核心驱动力。广和通将继续加大研发投入,携手行业伙伴,推动不同算力等级的AI模组及解决方案与DeepSeek等优质模型相结合,为客户创造更大的AI价值。”
-
人工智能
+关注
关注
1809文章
49134浏览量
250490 -
广和通
+关注
关注
4文章
799浏览量
13712 -
DeepSeek
+关注
关注
2文章
803浏览量
1816
发布评论请先 登录
如何使用OpenVINO运行DeepSeek-R1蒸馏模型

RK3588开发板上部署DeepSeek-R1大模型的完整指南
了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择
IBM企业级AI开发平台watsonx.ai上线DeepSeek R1蒸馏模型
Deepseek R1大模型离线部署教程

广和通支持DeepSeek-R1蒸馏模型
广汽ADiGO SENSE端云一体大模型与DeepSeek-R1大模型完成深度融合
deepin UOS AI接入DeepSeek-R1模型
DeepSeek-R1全尺寸版本上线Gitee AI
网易有道全面接入DeepSeek-R1大模型
华为ModelEngine AI平台全面支持DeepSeek

评论