0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

兆芯全面部署DeepSeek R1大模型

兆芯 ? 来源:兆芯 ? 2025-02-25 13:45 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,基于兆芯高性能通用处理器的PC终端、工作站以及服务器成功实现DeepSeek-R1-Distill模型(1.5B/7B/32B/70B/671B等)的本地部署,在保证推理效率的同时,能够提供灵活的算力选择,以满足不同规模和需求的推理生成应用,面向用户提供安全、智能、高效的AI应用体验。

自春节至今,国内AI大模型DeepSeek成功成为这段时间最火的“中国力量”,短短数周,中国智算产业的大半壁江山,都在拥抱DeepSeek!无论是互联网科技大厂,还是行业巨头,都纷纷接入Deepseek以实现性能更强大、成本更优异的AI功能与服务。

兆芯高性能通用处理器具备覆盖笔记本、台式机、工作站、服务器的全栈硬件解决方案能力,以及强大的软件生态,原生支持以Linux、Windows、国产操作系统、及国产GPU加速卡等为基础的DeepSeek大模型生态。

基于兆芯高性能通用处理器的PC终端、工作站以及服务器成功实现DeepSeek-R1-Distill模型(1.5B/7B/32B/70B/671B等)的本地部署,在保证推理效率的同时,能够提供灵活的算力选择,以满足不同规模和需求的推理生成应用,面向用户提供安全、智能、高效的AI应用体验。

KX-7000台式机成功本地部署DeepSeek-R1-7B模型

基于开先KX-7000桌面处理器的台式机,通过搭配国内显卡及加速卡,在本地成功部署DeepSeek-R1-7B模型,实现高性能桌面平台与先进AI模型的完美结合,充分发挥DeepSeek强大的语义理解和推理能力, 通过与WPS Word、Excel以及VSCode等常用工具的整合,可以实现智能文档处理、数据处理以及智能编程等功能,为用户带来显著的生产力提升和智能化体验。

KX-7000是兆芯新一代的高性能桌面PC处理器系列,采用全新的“世纪大道”自主内核微架构和先进的Chiplet 互连架构,集成8个CPU 核心,共享32MB 三级缓存,最高工作频率可达3.7GHz。

KH-40000/16工作站成功部署DeepSeek-R1-32B模型

基于KH-40000/16服务器处理器的工作站部署了DeepSeek-R1-7B、DeepSeek-R1-14B、DeepSeek-R1-32B模型。采用联和东海XRS302 AI工作站平台,搭配4张国内高性能GPU推理加速卡,可以提供信创+AI融合的高性价比、稳定高效的推理能力。设备通过优化的CPU与多GPU间互连架构,有效提升了整体数据传输带宽,降低延迟。

在双路KH-40000/16工作站上部署DeepSeek 32B模型,不仅能够更好发挥模型的强大能力,还能在性能、效率和稳定性上实现全面优化,为更智能的AI应用提供强有力的支持。另外,充分考虑部署需求,工作站采用了低功耗、静音设计,可以灵活便捷应用于如智能办公等企业级的桌面本地化AI推理场景。

KH-40000/32双路服务器支持本地部署DeepSeek R1 671B模型

在服务器端,开胜KH-40000/32处理器可提供双路64核的高性能计算能力,支持2TB海量内存,同时提供强大的扩展能力。目前,通过搭配国内加速卡,在KH-40000/32服务器上成功完成了DeepSeek-R1-70B版本的适配和部署,能够为数学、编程和推理等多个领域应用提供安全可靠、高性能的平台与解决方案。

同时,针对DeepSeek-R1-671B大模型,为了更有效的测试服务器的兼容性,在不插入任何外界加速卡的情况下,基于开胜KH-40000/32处理器已经完成本地DeepSeek-R1-671B大模型的部署,完整的验证了兆芯服务器CPU架构承载千亿参数模型的硬件支撑能力。

“小而美”且开源的DeepSeek不仅让全球反思“大力出奇迹”的OpenAI路线,也为国内算力芯片企业打开了通往AGI(通用人工智能)的另一扇窗。兆芯凭借已建立的完善且成熟的软硬件自主生态,支持多款国产GPU卡以及麒麟、统信、中科方德等国产操作系统,为部署DeepSeek模型提供了高性能、低成本、自主可控的解决方案。通过硬件与软件的深度优化,兆芯平台能够充分发挥DeepSeek的能力,满足多种AI应用场景的需求,同时符合国家对信息技术的战略要求。

关于兆芯

兆芯坚持自主创新、生态完善、好用不贵的发展理念,掌握自主通用处理器及其系统平台芯片研发设计的核心技术,全面覆盖其微架构与实现技术等关键领域,构建了健全的知识产权体系,致力于为用户提供高效、兼容、安全的自主通用处理器和芯片组等产品,构建从云到边再到端等各种应用场景下的计算解决方案,支撑政务、金融、教育、通信与广播电视、能源、交通、医疗、工业制造等行业应用的平滑迁移,帮助用户节约成本,支撑产业创新升级,助力加快构建“双循环”新发展格局,推动国民经济高质量发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    13

    文章

    9826

    浏览量

    88224
  • 兆芯
    +关注

    关注

    2

    文章

    234

    浏览量

    17975
  • 大模型
    +关注

    关注

    2

    文章

    3191

    浏览量

    4147
  • DeepSeek
    +关注

    关注

    2

    文章

    804

    浏览量

    1829

原文标题:兆芯全系列整机形态成功部署DeepSeek R1大模型

文章出处:【微信号:gh_dff030a16604,微信公众号:兆芯】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    速看!EASY-EAI教你离线部署Deepseek R1模型

    1.Deepseek简介DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型DeepSeek-R1采用
    的头像 发表于 07-25 15:22 ?290次阅读
    速看!EASY-EAI教你离线<b class='flag-5'>部署</b><b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>

    DeepSeek开源新版R1 媲美OpenAI o3

    ;还有一些网友的实测评价都显示,?DeepSeek新版R1 的性能可以媲美OpenAI最新的o3模型高版本。妥妥的超高性价比的平替。 此外,关于DeepSeek
    的头像 发表于 05-29 11:23 ?500次阅读

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型

    瑞萨RZ/V2H平台支持部署离线版DeepSeek -R1大语言模型
    的头像 发表于 05-13 17:07 ?959次阅读
    瑞萨RZ/V2H平台支持<b class='flag-5'>部署</b>离线版<b class='flag-5'>DeepSeek</b> -<b class='flag-5'>R1</b>大语言<b class='flag-5'>模型</b>

    ORinNano离线部署Deepseek R1模型教程

    ORinNano离线部署Deepseek R1模型教程
    的头像 发表于 04-10 15:32 ?570次阅读
    ORinNano离线<b class='flag-5'>部署</b><b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>教程

    RK3588开发板上部署DeepSeek-R1模型的完整指南

    DeepSeek作为国产AI大数据模型的代表,凭借其卓越的推理能力和高效的文本生成技术,在全球人工智能领域引发广泛关注。DeepSeek-R1作为该系列最新迭代版本,实现了长文本处理效能跃迁、多模态
    发表于 02-27 16:45

    完成DeepSeek-R1模型本地化部署

    近日,行正式宣布完成 DeepSeek-R1模型本地化部署,实现在多场景、多产品中应用。解锁“”玩法,开启“
    的头像 发表于 02-24 15:17 ?932次阅读

    研华发布昇腾AI Box及Deepseek R1模型部署流程

    近日,随着深度求索(DeepSeek)大模型的发布在行业内掀起热议,研华科技正式推出了基于昇腾Atlas平台的边缘AI Box MIC-ATL3S,并同步发布了与Deepseek R1
    的头像 发表于 02-19 10:41 ?804次阅读

    研华边缘AI Box MIC-ATL3S部署Deepseek R1模型

    随着深度求索(DeepSeek)大模型的发布引发行业热议,研华科技基于昇腾Atlas平台边缘AI Box MIC-ATL3S正式发布与Deepseek R1
    的头像 发表于 02-14 16:08 ?1488次阅读
    研华边缘AI Box MIC-ATL3S<b class='flag-5'>部署</b><b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b><b class='flag-5'>模型</b>

    了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择

    ); 二者均支持API调用,可根据业务需求混合部署(如用V3处理前端交互,R1负责后端计算)。 在电子工程领域选用哪个模型最合适,有其他更好的模型推荐吗? 在电子工程领域的电路设计与
    发表于 02-14 02:08

    超星未来惊蛰R1芯片适配DeepSeek-R1模型

    日前,超星未来研发团队成功完成了惊蛰R1芯片对DeepSeek-R1模型的适配工作,实现了与用户之间的流畅对话。这一成果标志着超星未来在人工智能芯片和模型优化方面取得了重要进展
    的头像 发表于 02-13 14:05 ?742次阅读

    Deepseek R1模型离线部署教程

    DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型DeepSeek-R1采用强化学习进行后训练,旨在提升推理能力,尤其擅长数学、代码和自然语言
    的头像 发表于 02-12 09:37 ?1847次阅读
    <b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>离线<b class='flag-5'>部署</b>教程

    Gitee AI 联合沐曦首发全套 DeepSeek R1 千问蒸馏模型,全免费体验!

    模型相比,较小尺寸的 DeepSeek 蒸馏版本模型 更适合企业内部实施部署,可以极大的降低落地成本 。 同时,这次 Deepseek
    的头像 发表于 02-10 09:56 ?775次阅读
    Gitee AI 联合沐曦首发全套 <b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b> 千问蒸馏<b class='flag-5'>模型</b>,全免费体验!

    部署DeepSeek R1于AX650N与AX630C平台

    适配 DeepSeek R1 系列模型的最新进展,向业界对端侧大模型部署的开发者提供一种新的思路,促进社区对端侧大
    的头像 发表于 02-09 09:32 ?1204次阅读
    <b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b>于AX650N与AX630C平台

    扣子平台支持DeepSeek R1与V3模型

    近日,新一代AI应用搭建平台“扣子”宣布了一项重要更新,即正式支持DeepSeekR1和V3模型,并向广大用户开放免费体验。 扣子平台一直以来都致力于为用户提供便捷、高效的AI应用搭建服务,帮助
    的头像 发表于 02-08 13:42 ?1178次阅读

    云天励飞上线DeepSeek R1系列模型

    -Distill-Llama-70B大模型DeepSeek V3/R1 671B MoE大模型也在有序适配中。适配完成后,DeepEdge10芯片平台将在端、边、云
    的头像 发表于 02-06 10:39 ?716次阅读
    云天励飞上线<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b>系列<b class='flag-5'>模型</b>