0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通推出全新AI Hub,使AI推理速度最高提升4倍

CHANBAEK ? 来源:网络整理 ? 2024-02-28 10:28 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在今年的世界移动通信大会(MWC)上,高通公司展示了其最新的技术成果——全新的高通AI Hub。这一创新平台为开发者提供了全面优化的AI模型库,涵盖传统AI和生成式AI模型,并支持在骁龙和高通平台上进行部署。

高通AI Hub的推出,意味着开发者能够更便捷地利用高性能的AI模型。据悉,该Hub将支持超过75个AI模型,通过优化这些模型,开发者在运行AI推理时的速度将提升高达4倍。这一显著的速度提升不仅增强了应用的响应能力,也为开发者提供了更广阔的创作空间。

值得一提的是,除了速度提升外,优化后的模型还在内存带宽和存储空间方面有所减少。这意味着在相同的硬件条件下,模型能够更为高效地运行,从而实现更高的能效和更持久的电池续航。对于移动设备用户而言,这无疑是一项重要的改进,能够有效延长设备的使用时间。

高通AI Hub的推出,进一步巩固了高通在移动技术领域的领先地位。随着AI技术的日益普及,这一平台有望为开发者提供更为强大的支持,推动移动应用的发展和创新。未来,我们期待看到更多基于高通AI Hub的优秀应用涌现,为用户带来更为丰富的体验。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7637

    浏览量

    193739
  • 移动通信
    +关注

    关注

    10

    文章

    2691

    浏览量

    71196
  • AI
    AI
    +关注

    关注

    88

    文章

    35758

    浏览量

    282461
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI推理的存储,看好SRAM?

    电子发烧友网报道(文/黄晶晶)近几年,生成式AI引领行业变革,AI训练率先崛起,带动带宽内存HBM一飞冲天。但我们知道AI推理的广泛应用才
    的头像 发表于 03-03 08:51 ?1834次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的存储,看好SRAM?

    华为亮相2025金融AI推理应用落地与发展论坛

    创新技术——UCM推理记忆数据管理器,旨在推动AI推理体验升级,提升推理性价比,加速AI商业正循
    的头像 发表于 08-15 09:45 ?140次阅读

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    网络智能诊断平台。通过对私有化网络数据的定向训练,信而泰打造了高性能、高可靠性的网络诊断模型,显著提升AI辅助诊断的精准度与实用性。该方案实现了网络全流量深度解析能力与AI智能推理
    发表于 07-16 15:29

    Nordic收购 Neuton.AI 关于产品技术的分析

    生成比传统框架(如 TensorFlow、PyTorch 等)小 10 的模型,模型体积可低至个位数 KB,并且推理速度更快、功耗更低。此次收购将 Neuton 的自动化 TinyML 平台
    发表于 06-28 14:18

    RK3588核心板在边缘AI计算中的颠覆性优势与场景落地

    、ResNet50等模型,推理速度较纯CPU方案(如i.MX8)快5-10,无需外接加速卡。 全接口覆盖: 原生支持PCIe 3.0、双千兆网口、USB 3.1 Gen2、SATA 3.0等接口,可扩展5G模组
    发表于 04-15 10:48

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    的端侧部署,Token产生速度提升了40%,让端侧大模型拥有更高的计算效率和推理性能,使端侧AI交互响应更及时,用户体验更贴心。 联发科还
    发表于 04-13 19:52

    曙光存储全新升级AI存储方案

    近日,曙光存储全新升级AI存储方案,秉持“AI加速”理念,面向AI训练、AI推理
    的头像 发表于 03-31 11:27 ?573次阅读

    适用于数据中心和AI时代的800G网络

    ,成为新一代AI数据中心的核心驱动力。 AI时代的两大数据中心:AI工厂与AIAI时代催生了两类数据中心架构:
    发表于 03-25 17:35

    通推动终端侧AI释放全新价值

    通过蒸馏技术将百亿参数模型压缩至端侧设备可运行的创新,让AI推理成本大幅下降,为终端侧AI的爆发按下加速键。低成本、灵活性的特性引发了行业对这一技术突破的深度思考,也验证了
    的头像 发表于 03-21 09:28 ?621次阅读
    <b class='flag-5'>高</b>通推动终端侧<b class='flag-5'>AI</b>释放<b class='flag-5'>全新</b>价值

    NVIDIA 推出开放推理 AI 模型系列,助力开发者和企业构建代理式 AI 平台

    由 NVIDIA 后训练的全新 Llama Nemotron 推理模型,为代理式 AI 提供业务就绪型基础 埃森哲、Amdocs、Atlassian、Box、Cadence、CrowdStrike
    发表于 03-19 09:31 ?259次阅读
    NVIDIA <b class='flag-5'>推出</b>开放<b class='flag-5'>推理</b> <b class='flag-5'>AI</b> 模型系列,助力开发者和企业构建代理式 <b class='flag-5'>AI</b> 平台

    FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......

    成形时延缩短至3μs...... 4) 工业4.0神经中枢:机器视觉系统响应速度突破120fps;预测性维护准确率提升至99.2%...... 未来展望:当FPGA遇见生成式AI,D
    发表于 03-03 11:21

    AI Hub:轻松实现Android图像分类

    AI Hub为开发者提供了一个强大的平台,以优化、验证和部署在Android设备上的机器学习模型。这篇文章将介绍如何使用AI
    的头像 发表于 11-26 01:03 ?1007次阅读
    <b class='flag-5'>高</b>通<b class='flag-5'>AI</b> <b class='flag-5'>Hub</b>:轻松实现Android图像分类

    ASTRA AI Hub详细介绍

    ASTRA AI Hub以其强大的边缘计算能力、低成本的AI升级方案、持续的产品价值提升、高级的视觉识别应用以及端云智能交互的能力,为行业数字化转型和消费智能化升级提供了有力的支持。
    的头像 发表于 10-24 16:23 ?793次阅读
    ASTRA <b class='flag-5'>AI</b> <b class='flag-5'>Hub</b>详细介绍

    通骁龙汽车新方案:CPU性能跃升3,AI性能狂飙12

    。   据了解,骁龙座舱至尊版平台作为骁龙8295的升级版,被命名为Elite。该平台搭载了通专为汽车行业设计的自研Oryon CPU架构,其性能相较于8295提升了3,并集成了最新的NPU,使得
    的头像 发表于 10-23 14:50 ?1174次阅读

    AMD助力HyperAccel开发全新AI推理服务器

    HyperAccel 是一家成立于 2023 年 1 月的韩国初创企业,致力于开发 AI 推理专用型半导体器件和硬件,最大限度提升推理工作负载的存储器带宽使用,并通过将此解决方案应用于
    的头像 发表于 09-18 09:37 ?950次阅读
    AMD助力HyperAccel开发<b class='flag-5'>全新</b><b class='flag-5'>AI</b><b class='flag-5'>推理</b>服务器