0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

后摩智能NPU适配通义千问Qwen3系列模型

后摩智能 ? 来源:后摩智能 ? 2025-05-07 16:46 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,阿里云重磅推出Qwen3 系列开源混合推理模型。用时不到1天,后摩智能自研NPU迅速实现Qwen3 系列模型(Qwen3 0.6B-14B)在端边侧的高效部署。这一成果充分彰显了后摩智能NPU在生态适配性与快速响应能力方面的显著优势。

通义千问 Qwen3 系列作为国内领先的混合推理模型,其亮点在于创造性地将 “快思考” 与 “慢思考” 集成进同一个模型架构。对于简单需求,可迅速做出低算力响应,实现 “秒回”;面对复杂问题,能够进行多步骤深度思考,逐步推导出合理答案。此外,Qwen3 系列基于海量多语言、多模态数据预训练,并经过高质量数据微调,在人类偏好对齐方面表现出色,推理效率提升 3 倍,支持 API 商用及开源代码库,为用户提供了灵活多样的部署选择。

后摩智能通过多种产品组合,为用户提供丰富的高性能 AI 算力选择。基于自研 NPU,后摩智能推出了力谋SM30 计算模组、力谋LM30 智能加速卡及力谋BX30 计算盒子等产品,在政务、工业、消费、汽车等行业全面覆盖端侧与边缘侧的多样化应用场景。这些产品凭借其高性能、低功耗的特点,为 AI 技术的落地提供了坚实的算力基础,满足了不同用户在不同场景下的需求。

此前,后摩智能 NPU 已成功支持了 DeepSeek R1 Distilled 系列模型,展现出其在适配主流大模型方面的卓越性能和广泛兼容性。此次适配通义千问 Qwen3 系列模型,进一步验证了后摩智能 NPU 在处理复杂 AI 任务时的高效性和稳定性,为国产技术栈的完整性与竞争力提供了有力证明。

未来,后摩智能将继续深耕存算一体技术,持续优化 NPU 性能,加强与生态伙伴的合作,推动国产 NPU 在 AI 领域的广泛应用。通过技术创新与生态共建,后摩智能致力于为更多用户提供高效、普惠的 AI 算力解决方案。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 模型
    +关注

    关注

    1

    文章

    3531

    浏览量

    50569
  • 阿里云
    +关注

    关注

    3

    文章

    1014

    浏览量

    44289
  • NPU
    NPU
    +关注

    关注

    2

    文章

    333

    浏览量

    19843
  • 后摩智能
    +关注

    关注

    0

    文章

    38

    浏览量

    1395

原文标题:后摩智能 NPU 率先完成阿里 Qwen3 系列模型的端边侧部署

文章出处:【微信号:后摩智能,微信公众号:后摩智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    广和通加速通义Qwen3在端侧全面落地

    6月,广和通宣布:率先完成通义Qwen3系列混合推理模型在高通QCS8550平台端侧的
    的头像 发表于 06-25 15:35 ?400次阅读

    壁仞科技完成Qwen3旗舰模型适配

    近日,在高效适配Qwen3系列模型推理,壁仞科技宣布完成旗舰版Qwen3-235B-A22B
    的头像 发表于 05-16 16:23 ?459次阅读

    Arm CPU适配通义Qwen3系列模型

    近日,阿里巴巴开源了新一代通义模型 Qwen3,Arm 率先成为首批成功适配
    的头像 发表于 05-12 16:37 ?741次阅读

    Intel OpenVINO? Day0 实现阿里通义 Qwen3 快速部署

    本文将以 Qwen3-8B 为例,介绍如何利用 OpenVINO 的 Python API 在英特尔平台(GPU, NPUQwen3 系列模型
    的头像 发表于 05-11 11:36 ?942次阅读
    Intel OpenVINO? Day0 实现阿里<b class='flag-5'>通义</b> <b class='flag-5'>Qwen3</b> 快速部署

    NVIDIA RTX 5880 Ada与Qwen3系列模型实测报告

    近日,阿里巴巴通义团队正式推出新一代开源大语言模型——Qwen3 系列,该
    的头像 发表于 05-09 15:05 ?1058次阅读
    NVIDIA RTX 5880 Ada与<b class='flag-5'>Qwen3</b><b class='flag-5'>系列</b><b class='flag-5'>模型</b>实测报告

    NVIDIA使用Qwen3系列模型的最佳实践

    阿里巴巴近期发布了其开源的混合推理大语言模型 (LLM) 通义 Qwen3,此次 Qwen3
    的头像 发表于 05-08 11:45 ?1409次阅读
    NVIDIA使用<b class='flag-5'>Qwen3</b><b class='flag-5'>系列</b><b class='flag-5'>模型</b>的最佳实践

    MediaTek天玑9400率先完成阿里Qwen3模型部署

    通义模型团队在天玑 9400 旗舰移动平台上率先完成 Qwen3 3)的端侧部署。未来,
    的头像 发表于 05-08 10:11 ?552次阅读

    在openEuler上基于vLLM Ascend部署Qwen3

    近日,阿里巴巴正式发布新一代Qwen大语言模型系列Qwen3Qwen3-MoE),在模型规模
    的头像 发表于 05-07 14:44 ?768次阅读
    在openEuler上基于vLLM Ascend部署<b class='flag-5'>Qwen3</b>

    中科曙光DeepAI深算智能引擎全面支持Qwen3

    日前,Qwen3正式发布并全部开源8款混合推理模型。作为Qwen系列中的最新一代大型语言模型Qwen3
    的头像 发表于 05-06 15:17 ?595次阅读

    几B都有!BM1684X一键适配系列Qwen3

    Qwen3发布,大小尺寸通吃Qwen3一发布,登顶开源大模型排行榜!235B、32B、8B、4B、1.7B云边端全尺寸模型,BF16和FP8两种精度,一次性发布,无论云端大卡还是边缘A
    的头像 发表于 04-30 18:37 ?649次阅读
    几B都有!BM1684X一键<b class='flag-5'>适配</b>全<b class='flag-5'>系列</b><b class='flag-5'>Qwen3</b>

    上新:小米首个推理大模型开源 马斯克:下周推出Grok 3.5

    似乎国内外AI竞争日趋白热化,就在阿里巴巴发布Qwen3通义3)之后,引发业界广泛关注;很多大厂在跟进,大
    的头像 发表于 04-30 16:08 ?842次阅读

    壁仞科技完成阿里巴巴通义Qwen3系列模型支持

    4月29日,阿里巴巴通义发布并开源8款新版Qwen3系列“混合推理模型”(简称“
    的头像 发表于 04-30 15:19 ?843次阅读

    阿里通义代码模型系列开源

    近日,阿里云通义模型团队宣布了一项重大决策:将通义代码模型
    的头像 发表于 11-14 15:26 ?1066次阅读

    通义三款主力模型再降价

    阿里云百炼平台再次掀起降价风暴,三款通义主力模型——Qwen-Turbo、Qwen-Plus
    的头像 发表于 09-20 16:46 ?1590次阅读

    通义发布第二代视觉语言模型Qwen2-VL

    阿里巴巴旗下的通义近日宣布,其第二代视觉语言模型Qwen2-VL正式问世,并宣布旗舰模型
    的头像 发表于 09-03 16:31 ?896次阅读