0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

华为CANN与智谱GLM端侧模型完成适配

华为麒麟 ? 来源:华为麒麟 ? 2025-08-11 11:00 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

2025年8月5日,在昇腾计算产业发展峰会上,华为宣布CANN(Compute Architecture for Neural Networks)技术体系及Mind系列工具链全面开源开放。此前,智谱已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM端侧模型已完成与CANN的适配。这标志着国产大模型与计算架构在端云协同方向实现关键突破,国产AI生态正加速迈入深度融合阶段。

CANN是华为自研的AI计算架构,具备统一的端云部署能力。依托昇腾、麒麟NPU硬件共架构,开发者一次开发即可面向端云协同部署,显著降低模型适配和算子开发成本,提升AI能力在多平台的部署效率。

目前,智谱GLM端侧模型基于CANN,已完成与昇腾和麒麟的适配。智谱在云侧昇腾环境中开发Ascend C自定义算子,完成模型微调与量化,并借助CANN工具链实现该模型的“一步直转”,算子代码直接复用,高效部署至基于麒麟芯片的端侧设备,支持在PC场景中快速落地。这种创新模式大幅降低了端云模型、算子适配工作量,也验证了CANN体系的开放性与研发效率。

CANN端云协同相关负责人表示:“通过与智谱GLM系列模型的协同适配,CANN进一步验证了国产计算架构支持大模型端云协同部署的可行性。未来,CANN将进一步深化对端云协同架构的支持,持续拓展更加多样化大模型业务形态部署。”

智谱相关负责人表示:“GLM具备原生推理、代码生成与多智能体能力。此次适配CANN,有效提升了AI模型在国产平台上的部署效率。我们将持续深化与华为的合作,共建更开放的国产AI生态。”

华为将继续与包括智谱在内的行业伙伴深入合作,打造开放、协同、自主的AI软硬件生态,推动CANN在更多领域实现端云协同的规模化应用。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    216

    文章

    35293

    浏览量

    256964
  • AI
    AI
    +关注

    关注

    88

    文章

    35758

    浏览量

    282446
  • 昇腾
    +关注

    关注

    1

    文章

    166

    浏览量

    7118

原文标题:CANN与智谱GLM强强联合,国产AI加速迈向端云协同

文章出处:【微信号:Huawei_Kirin,微信公众号:华为麒麟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Arm率先适配腾讯混元开源模型,助力AI创新开发

    共同赋能人工智能 (AI) 部署,助力本土开发者实现 AI 应用创新! 这次的首日开源适配是双方再次携手提升应用功能和用户体验的又一
    的头像 发表于 08-08 09:16 ?540次阅读
    Arm率先<b class='flag-5'>适配</b>腾讯混元开源<b class='flag-5'>模型</b>,助力<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI创新开发

    Say Hi to ERNIE!Imagination GPU率先完成文心大模型侧部署

    ImaginationTechnologies宣布率先完成百度文心大模型(ERNIE4.5开源版)在其GPU硬件上的侧部署。适配完成后,开
    的头像 发表于 07-01 08:17 ?484次阅读
    Say Hi to ERNIE!Imagination GPU率先<b class='flag-5'>完成</b>文心大<b class='flag-5'>模型</b>的<b class='flag-5'>端</b>侧部署

    广和通加速通义千问Qwen3在全面落地

    6月,广和通宣布:率先完成通义千问Qwen3系列混合推理模型在高通QCS8550平台适配部署。广和通通过定制化混合精度量化方案与创新硬
    的头像 发表于 06-25 15:35 ?469次阅读

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    AI应用开发往往需要调用各种各样的大模型能力,需要更丰富、类型更多的模型适配。为此,Gen-AI Model Hub全面扩容,
    发表于 04-13 19:52

    GLM-PC 开放体验,多模态 Agent 升级

    1月23日,北京智华章科技有限公司宣布旗下智GLM-PC开放体验,标志着自主操作电脑的多模态Agent迎来重要升级。 GLM-PC是基于智
    的头像 发表于 01-24 14:10 ?912次阅读

    推出深度推理模型GLM-Zero预览版

    近日,智公司正式发布了其深度推理模型GLM-Zero的预览版——GLM-Zero-Preview。这款模型标志着智谱在扩展强化学习技术训练
    的头像 发表于 01-03 10:42 ?583次阅读

    GLM-Zero深度推理模型预览版正式上线

    近日,智公司宣布其深度推理模型GLM-Zero的初代版本——GLM-Zero-Preview已正式上线。这款模型是智
    的头像 发表于 01-02 10:55 ?594次阅读

    完成30亿元新一轮融资

    据多家媒体报道,大模型领域的独角兽企业智近期宣布成功完成新一轮高达30亿元的融资。本轮融资吸引了多家战略投资者及国资背景的机构参与,同时,君联资本等老股东也继续跟投,展现了市场对智
    的头像 发表于 12-17 10:58 ?553次阅读

    利用OpenVINO部署GLM-Edge系列SLM模型

    近期智发布了其最新的GLM-Edge系列SLM模型GLM-Edge 系列是智谱在面向真实
    的头像 发表于 12-09 16:12 ?1907次阅读

    讯飞星火模型发布

    参数量小、内存占比小的模型,正成为“兵家必争之地”。
    的头像 发表于 12-04 16:07 ?1463次阅读

    推出四个全新模型 携英特尔按下AI普及加速键

    随着AI的发展,AI模型越来越受到广大客户及厂商的关注,业界领先的大模型公司智于近日推出了四个全新的
    的头像 发表于 12-02 17:13 ?653次阅读
    智<b class='flag-5'>谱</b>推出四个全新<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>模型</b> 携英特尔按下AI普及加速键

    高通与智推动多模态生成式AI体验的终端侧部署

    此前,骁龙峰会首日,智与高通技术公司宣布合作将GLM-4V侧视觉大模型,面向骁龙8至尊版进行深度适配和推理优化,支持丰富的多模态交互方式
    的头像 发表于 11-08 09:55 ?848次阅读

    AI宣布GLM-4-Flash大模型免费开放

    AI近日宣布了一项重大举措,其自主研发的GLM-4-Flash大模型正式向公众免费开放,用户可通过智AI大模型开放平台轻松调用。这款大
    的头像 发表于 08-28 17:41 ?1325次阅读

    【附实操视频】聆思CSK6大模型开发板接入国内主流大模型(星火大模型、文心一言、豆包、kimi、智glm、通义千问)

    输出的结果进行语音合成实现播报。 目前已经接通文心一言、豆包、kimi、智glm、通义千问等国内主流大模型,详细模板和操作步骤可以参考
    发表于 08-22 10:12

    智能硬件接入主流大模型做语音交互(附文心一言、豆包、kimi、智glm、通义千问示例)

    接入文心一言、通义千问、豆包、智glm、kimi等国内的大模型,这个是必须可以的。但由于各家接口和数据格式不一样,有些朋友直接参考chatgpt的方式没有走通,因此本篇以聆思CSK6大模型
    发表于 08-21 19:13