0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Arm率先适配腾讯混元开源模型,助力端侧AI创新开发

Arm社区 ? 来源: Arm ? 2025-08-08 09:16 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

本周初,腾讯混元宣布开源四款小尺寸模型(参数分别为 0.5B、1.8B、4B、7B),可无缝运行于消费级显卡上。作为全球应用范围最为广泛的计算平台,Arm 在开源首日就已率先实现适配,携手合作伙伴共同赋能端侧人工智能 (AI) 部署,助力本土开发者实现 AI 应用创新!

这次的首日开源适配是双方再次携手提升端侧应用功能和用户体验的又一例证。去年,Arm 将 Arm KleidiAI 技术与腾讯混元自研的 Angel 机器学习框架进行集成,从而提高移动端 AI 服务的推理性能和效率。得益于这一集成,混元大模型的预填充部分加速了 100%,而解码器的速度提高了 10%。

此次腾讯混元开源的四款模型可适用于笔记本电脑手机智能座舱、智能家居等低功耗场景,且支持垂直领域低成本微调,为开发者和企业提供更多尺寸的模型选择。四款模型均实现了对标业界同尺寸模型的性能表现,特别是在语言理解、数学、推理等领域尤为突出。目前,四款模型均已在 Github 和 Huggingface 等开源社区上线。

00ee46ca-73f4-11f0-a18e-92fbcf53809c.png

此外,对于开源方面的投入,双方秉持同样的热忱,开源是腾讯混元大模型长期坚持的方向,而 Arm 则在开源项目的支持上投入了大量的工程资源,并不断地扩大开源合作伙伴协作,致力于为全球超过 2,200 万基于 Arm 平台开发的开发者提供更多的获取资源和更高的性能,助力实现 AI 无处不在!

展望未来,Arm 将继续通过开源合作与技术创新,持续赋能开发者无缝获取底层硬件性能,进而实现更顺畅的创新开发,并携手合作伙伴构筑更加繁荣的开源生态,加速应用落地。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • ARM
    ARM
    +关注

    关注

    134

    文章

    9385

    浏览量

    379587
  • 机器学习
    +关注

    关注

    66

    文章

    8512

    浏览量

    135048

原文标题:开源支持新动态!Arm 率先适配腾讯混元开源模型,助力端侧 AI 创新开发

文章出处:【微信号:Arm社区,微信公众号:Arm社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    华为CANN与智谱GLM模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM模型已完成与CANN的适配。这
    的头像 发表于 08-11 11:00 ?996次阅读

    硬件与应用同频共振,英特尔Day 0适配腾讯开源模型

    于OpenVINO? 构建的 AI 软件平台的可扩展性,英特尔助力ISV生态伙伴率先实现应用Day 0 模型
    的头像 发表于 08-07 14:42 ?386次阅读
    硬件与应用同频共振,英特尔Day 0<b class='flag-5'>适配</b><b class='flag-5'>腾讯</b><b class='flag-5'>开源</b><b class='flag-5'>混</b><b class='flag-5'>元</b>大<b class='flag-5'>模型</b>

    摩尔线程率先支持腾讯-A13B模型

    近日,腾讯正式开源基于专家混合(MoE)架构的大语言模型-A13B。同日,摩尔线程团队凭借技术前瞻性,
    的头像 发表于 07-04 14:10 ?406次阅读

    Say Hi to ERNIE!Imagination GPU率先完成文心大模型侧部署

    ImaginationTechnologies宣布率先完成百度文心大模型(ERNIE4.5开源版)在其GPU硬件上的侧部署。适配完成后,
    的头像 发表于 07-01 08:17 ?477次阅读
    Say Hi to ERNIE!Imagination GPU<b class='flag-5'>率先</b>完成文心大<b class='flag-5'>模型</b>的<b class='flag-5'>端</b>侧部署

    Arm CPU适配通义千问Qwen3系列模型

    近日,阿里巴巴开源了新一代通义千问模型 Qwen3,Arm 率先成为首批成功适配模型的计算平台
    的头像 发表于 05-12 16:37 ?791次阅读

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    模型、通义千问、等多种先进模型,还包含视觉、语言、多模态等多种多样的大
    发表于 04-13 19:52

    AI模型侧部署正当时:移远端AI模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI模型的应用正从云端向加速渗透。 作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻
    发表于 03-27 11:26 ?291次阅读
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>侧部署正当时:移远端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解决方案,激活场景智能新范式

    AI模型侧部署正当时:移远端AI模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI模型的应用正从云端向加速渗透。作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻性
    的头像 发表于 03-26 19:05 ?549次阅读
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>侧部署正当时:移远端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解决方案,激活场景智能新范式

    腾讯3D AI创作引擎正式发布

    近日,腾讯公司宣布其自主研发的3D AI创作引擎已正式上线。这一创新性的创作工具将为用户带来前所未有的3D内容创作体验,标志着
    的头像 发表于 01-23 10:33 ?676次阅读

    腾讯3D AI创作引擎正式上线

    近日,腾讯公司宣布其自主研发的3D AI创作引擎已正式上线。这一创新性的创作工具,标志着腾讯
    的头像 发表于 01-22 10:26 ?671次阅读

    腾讯模型开源成绩斐然,GitHub Star数近1.4万

    内外部技术的开源共享,旨在促进技术创新与生态发展。 据悉,腾讯模型已经在多个模态上实现了
    的头像 发表于 12-26 10:30 ?814次阅读

    腾讯模型上线并开源文生视频能力

    近日,腾讯宣布其模型正式上线,并开源了一项令人瞩目的能力——文生视频。该大模型参数量高达1
    的头像 发表于 12-04 14:06 ?619次阅读

    Arm成功将Arm KleidiAI软件库集成到腾讯自研的Angel 机器学习框架

    Arm腾讯携手合作,成功将 Arm KleidiAI 软件库集成到腾讯自研的 Angel 机器学习框架。 ? 借助 KleidiAI 解锁卓越性能、能效和可移植性,
    的头像 发表于 11-24 15:33 ?1385次阅读

    腾讯Large模型及云TI平台全新上线

    近日,腾讯团队最新推出的MoE模型Large”已正式
    的头像 发表于 11-08 11:03 ?927次阅读

    高通与腾讯达成战略合作

    骁龙峰会期间,高通技术公司宣布与腾讯合作,基于骁龙8至尊版移动平台,共同推动了腾讯
    的头像 发表于 11-08 09:52 ?967次阅读