近期,Imagination将陆续推出全新系列研讨会,涵盖边缘AI如何推动工业物联网的发展,生成式AI,智能汽车未来发展趋势等等多个热门话题。
本期研讨会中,Imagination中国区产品总监郑魁为我们解读了中国在基础模型研发及其边缘部署方面取得的进展,重点分析关键趋势、技术突破以及未来展望。
分享嘉宾:郑魁,Imagination中国区产品总监

以下为本期研讨会要点内容回顾,更多详细内容可观看完整版视频。生成式AI在中国的崛起
预计未来五年,中国在生成式AI(Gen-AI)领域的投资将以86%的年均复合增长率(CAGR)增长。这一发展的主要推动力源于对高端技术自给自足的需求,包括从应用到芯片的全面布局,并注重本地技术开发。
主要发展领域包括:
- AI芯片研发:满足高性能AI基础设施的需求。
- 数据集本地化:支持本地语言和方言。
- 定制化AI应用:针对特定消费和行业需求开发。
开源社区建设:积极参与深度学习框架和大型模型开源社区。
区域技术趋势
中国的研究实验室在AI领域作出了显著贡献,尤其是在开源生态系统中:
排行榜表现:中国模型在全球竞争中表现优异,特别是在特定子任务上。
多模态大语言模型:在中文理解等细分领域具有强大竞争力。
设备端模型:在边缘设备上开发高效模型,如MiniCPM3-4B。
基础模型的基准表现
中国的基础模型在基准测试中表现出色,如Qwen2.5-72B-instruct和GLM-4-plus在指令遵循、长文本生成和结构化数据理解方面表现卓越。最新的Qwen2.5模型包含高达18万亿标记数据,在多样化系统提示下表现出强大的适应性。
多模态大语言模型(LLM)
腾讯的混元大模型以3890亿参数、5.2亿激活参数及最高可达256,000个Token的处理能力,成为最大的开源混合专家模型之一,在语言理解和逻辑推理等领域表现优异,甚至超过一些更大规模的模型。
开源贡献与设备端AI
中国活跃的开源LLM社区开发了诸如DeepSeek-V2等混合专家模型,在高效推理和经济训练方面表现出色。同时,参数在10亿以下的设备端模型(如GLM-4-9B-Chat和MiniCPM-2B)在中文任务和其他应用中取得优异成绩。
边缘计算的挑战与解决方案将生成式AI部署到边缘设备而非云端,可实现更快响应、更高隐私、更个性化体验和更低的云推理成本。然而,要真正发挥AI在边缘的潜力,还需解决计算密集型问题。GPU凭借其可编程性、灵活性和高效计算能力,成为推动生成式AI应用至边缘设备的关键技术。
结语
中国科技生态正快速发展,并成功研发基础模型并部署至边缘。随着技术创新的持续推进以及对本地化和定制化的高度重视,消费者将见证更多强大的AI功能应用到各种设备中。
下一期研讨会中,Imagination高级产品总监Rob Fisher将分享“汽车行业趋势”的相关主题,敬请期待!
-
AI
+关注
关注
88文章
35318浏览量
280712 -
模型
+关注
关注
1文章
3527浏览量
50498 -
imagination
+关注
关注
1文章
601浏览量
62283
发布评论请先 登录
Rambus邀您相约Keysight设备安全研讨会
广和通与火山引擎AI玩具创新研讨会圆满落幕
邀请函 | CET中电技术邀您参加广东省光储充一体化发展研讨会

DEKRA德凯成功举办ESG与低碳可持续发展研讨会
云知声亮相AI产业发展机遇与应对研讨会
在线研讨会 | 加速游戏和AI应用,全面认识Imagination DXTP GPU

2025电子设计与制造技术研讨会
飞腾成功举办散热技术应用发展研讨会
ROHM先进电源技术Nano系列研讨会回顾
瑞萨电子边缘AI技术研讨会亮点一览
开始报名!PCB/封装设计及系统 SI/PI/Thermal 仿真专场研讨会——2024 Cadence 中国技术巡回研讨会

前沿科技盛宴!“AI智绘未来·医学成像技术研讨会”在中山圆满落幕

Imagination CPU 系列研讨会 | RISC-V 平台的性能分析和调试

评论