0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

后摩漫界M30芯片成功适配DeepSeek-R1系列模型

后摩智能 ? 来源:后摩智能 ? 2025-02-08 10:42 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

DeepSeek开源模型的热度席卷全球,其高效性和易用性正在成为推动AI技术普惠化的重要力量。后摩智能作为国产存算一体AI芯片的领军企业,自研的后摩漫界M30芯片成功适配DeepSeek-R1-Distill-Qwen系列模型,包括1.5B、7B、14B等。这一成果不仅证明了存算一体芯片架构在大模型高效部署中的显著优势,也为端边大模型的广泛应用提供了强大的技术支撑。

DeepSeek-R1-Distill-Qwen-7B模型在M30上运行

性能数据:

· 上下文长度:8K

· 首字速度:<1s

· Decode速度:17 tokens/s

后摩智能的M30芯片专为端边部署大模型而设计,其低功耗的核心优势使其在端边应用场景中表现出色,M30芯片具备强大的物理算力,达到100~256 TOPS@INT8,同时典型功耗仅为12~35W,能够在保持高性能的同时显著降低能耗。此次适配DeepSeek-R1-Distill-Qwen系列模型的成功,进一步验证了M30芯片在处理复杂AI任务时的高效性和稳定性。随着AI技术向端侧和边缘侧的快速转移,后摩智能的存算一体技术的突破为国产AI芯片在端边大模型领域的应用树立了新的标杆,也为未来更多创新应用的落地奠定了坚实基础。

为了更好地推动端边大模型的广泛应用,后摩智能推出了基于M30芯片打造的系列产品——力谋SM30计算模组、力谋LM30智能加速卡、力谋BX30 计算盒子,以满足不同场景下的多样化需求。

力谋SM30计算模组

以力谋SM30计算模组为例,这是一款是基于M30芯片打造的智算模组(SoM),支持PCIe EP模式。该模组以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。力谋SM30计算模组的物理算力为50/100 TOPS@INT8,典型功耗低于23W,支持8路FHD的编解码,并兼容PCIe 4.0接口。其低功耗和高性能的特点使其能够在资源受限的环境中高效运行,为边缘计算和端侧设备提供了强大的算力支持。

DeepSeek开源模型以其高效的推理能力和较低的部署成本,正在推动AI技术的普惠化。后摩智能自研的存算一体架构,突破了传统冯·诺依曼架构的瓶颈,将存储与计算紧密结合,大幅减少了数据传输延迟,呈现出大算力、低功耗的独特优势,显著提升了模型运行效率。通过后摩智能存算一体芯片与DeepSeek模型的架构级协同,不仅验证了国产技术栈的完整竞争力,更创造了AI普惠化的中国范式——让每瓦特算力都能承载最前沿的智能。

全球AI大模型赛道进入战略窗口期,DeepSeek通过模型创新构建轻量化智能基座,后摩智能的存算一体芯片则以物理级能效突破重构计算边界。这种从底层芯片到顶层模型的颠覆式创新,必将催生大模型落地新定律,期待国产技术组合能够“改写天命”,开辟出超越摩尔定律的进化路径。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    88

    文章

    35476

    浏览量

    281262
  • 后摩智能
    +关注

    关注

    0

    文章

    38

    浏览量

    1395
  • DeepSeek
    +关注

    关注

    2

    文章

    804

    浏览量

    1828

原文标题:开源破局 x 低功耗守护 : Deepseek与存算一体如何演绎AI界的"哪吒闹海"?

文章出处:【微信号:后摩智能,微信公众号:后摩智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    M50亮相WAIC 2025

    AI 芯片的领跑者,智能携全新发布的端边大模型 AI 芯片
    的头像 发表于 07-31 17:06 ?243次阅读

    如何使用OpenVINO运行DeepSeek-R1蒸馏模型

    DeepSeek-R1在春节期间引发了全球科技的热度,DeepSeek-R1 是由 DeepSeek 开发的开源推理模型,用于解决需要逻辑
    的头像 发表于 03-12 13:45 ?1493次阅读
    如何使用OpenVINO运行<b class='flag-5'>DeepSeek-R1</b>蒸馏<b class='flag-5'>模型</b>

    RK3588开发板上部署DeepSeek-R1模型的完整指南

    DeepSeek作为国产AI大数据模型的代表,凭借其卓越的推理能力和高效的文本生成技术,在全球人工智能领域引发广泛关注。DeepSeek-R1作为该系列最新迭代版本,实现了长文本处理效
    发表于 02-27 16:45

    智能携手联想开天打造基于DeepSeek的信创AI PC

    在AI技术重构产业生态的关键节点,国产芯片与国产AI模型的深度融合正成为推动信创产业发展的关键力量。智能自主研发的NPU芯片
    的头像 发表于 02-24 17:51 ?1430次阅读

    宇芯基于T527成功部署DeepSeek-R1

    近日,宇芯成功在全志T527 Linux系统上本地部署并运行了DeepSeek-R1 1.5B模型
    的头像 发表于 02-15 09:06 ?1149次阅读
    宇芯基于T527<b class='flag-5'>成功</b>部署<b class='flag-5'>DeepSeek-R1</b>

    了解DeepSeek-V3 和 DeepSeek-R1两个大模型的不同定位和应用选择

    DeepSeek-V3 和 DeepSeek-R1 是深度求索公司(DeepSeek)推出的两个不同定位的大模型,其核心差异主要体现在目标场景、能力侧重和技术优化方向上。以下是二者的实
    发表于 02-14 02:08

    超星未来惊蛰R1芯片适配DeepSeek-R1模型

    日前,超星未来研发团队成功完成了惊蛰R1芯片DeepSeek-R1模型适配工作,实现了与用户
    的头像 发表于 02-13 14:05 ?741次阅读

    Deepseek R1模型离线部署教程

    DeepSeek-R1,是幻方量化旗下AI公司深度求索(DeepSeek)研发的推理模型DeepSeek-R1采用强化学习进行训练,旨
    的头像 发表于 02-12 09:37 ?1846次阅读
    <b class='flag-5'>Deepseek</b> <b class='flag-5'>R1</b>大<b class='flag-5'>模型</b>离线部署教程

    AIBOX 全系产品已适配 DeepSeek-R1

    国产AI大模型DeepSeek以出色的性价比和高效的模型技术,迅速成为全球AI关注的焦点。Firefly开源团队率先实现AIBOX系列产品对Deep
    的头像 发表于 02-08 17:30 ?642次阅读
    AIBOX 全系产品已<b class='flag-5'>适配</b> <b class='flag-5'>DeepSeek-R1</b>

    deepin UOS AI接入DeepSeek-R1模型

    DeepSeek-R1 模型自发布以来吸引了众多用户关注,为了让 deepin 用户更好地体验这一前沿技术,UOS AI 现已适配接入 DeepSeek-R1 端侧
    的头像 发表于 02-08 09:52 ?1170次阅读

    芯动力神速适配DeepSeek-R1模型,AI芯片设计迈入“快车道”!

    近期,国产大模型 DeepSeek-R1横空出世,迅速成为AI领域的焦点。 芯动力在24小时内完成了与DeepSeek-R1模型适配
    的头像 发表于 02-07 16:55 ?669次阅读
    芯动力神速<b class='flag-5'>适配</b><b class='flag-5'>DeepSeek-R1</b>大<b class='flag-5'>模型</b>,AI<b class='flag-5'>芯片</b>设计迈入“快车道”!

    DeepSeek-R1全尺寸版本上线Gitee AI

    DeepSeek 全套蒸馏模型以及 V3 版本上线,经过 Gitee AI 和沐曦团队两天紧锣密鼓的适配和机器筹备,DeepSeek-R1
    的头像 发表于 02-07 15:25 ?1393次阅读

    灵汐KA200芯片完成DeepSeek-R1系列模型适配

    节后开工第一天,灵汐科技团队联合类脑技术社区(“脑启社区“)的开发者,仅用半天时间就完成了DeepSeek-R1系列模型在灵汐KA200芯片及相关智算卡的
    的头像 发表于 02-06 15:40 ?1379次阅读

    云天励飞上线DeepSeek R1系列模型

    -Distill-Llama-70B大模型DeepSeek V3/R1 671B MoE大模型也在有序适配中。
    的头像 发表于 02-06 10:39 ?716次阅读
    云天励飞上线<b class='flag-5'>DeepSeek</b> <b class='flag-5'>R1</b><b class='flag-5'>系列</b><b class='flag-5'>模型</b>

    中软国际JointPilot平台上线DeepSeek-R1模型

    析)人工智能应用平台成功接入DeepSeek-R1模型,为企业提供更加丰富、高效的大模型应用场景落地服务。
    的头像 发表于 02-06 09:55 ?946次阅读