0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIGC加速成长,算力需求变化带来系统级创新

Monika观察 ? 来源:电子发烧友网 ? 作者:莫婷婷 ? 2023-05-30 01:04 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/莫婷婷)随着大模型智能水平的提升,AIGC所需要的算力也在不断增长。根据OpenAI的研究,AI训练所需算力指数增长,且增长速度超越硬件的摩尔定律。燧原科技创新研究院负责人、首席科学家姚建国教授认为,算力分为需求、场景,还有芯片和系统四个层次。算力需求的变化给AI芯片以及系统都带来了一定程度的挑战。

多家厂商发布垂直类大模型,AIGC落地场景逐渐清晰

随着各大公司对AIGC研究的不断深入和技术投入,国内外厂商积极推出属于自己的类ChatGPT模型,例如华为的“盘古”,商汤的“日日新”、深兰科技的“硅基知识”、出门问问的“序列猴子”、深信服的“安全大模型”等等大模型。这么多的大模型,若是放在两年前,业内人士可能会头疼于它的落地场景。

得益于ChatGPT的出现,业内人士看到了更多AIGC落地的可能性,并且推动AI行业进入AIGC时代。百度创始人、董事长兼CEO李彦宏近期公开演讲时就表示,“大模型即将改变世界”。

那么,大模型究竟会如何改变世界呢?这还得从落地场景看。目前,AIGC的典型应用分为文生文、文生图、文生视频。近期中国市场开放一些文生文的应用越来越多,具体的应用包括对话式功能,还支持搜索和营销的场景。

尽管国内厂商还未推出像GPT-4如此强大的通用模型,但是在垂直领域的人工智能大模型却迎来飞跃式的发展,并且有着巨大的想象空间。正如李彦宏提到的,每一个行业都应该有属于自己的大模型。未来技术跟业务深度融合是AIGC发展的最终方向。


算力需求变化带来系统级创新

谈及大模型对算力的需求,姚建国教授表示,AIGC智算中心可以分为三类大模型:基础大模型、场景大模型和应用大模型。

基础大模型通过巨大的算力生成,然后通过预训练算力、超大训练算力支撑,例如ChatGPT。场景大模型是在大模型基础进行调优,通过Fine Tune算力支撑,可以适应不同场景,也就能赋能到不同行业,可以引用一些普惠训练算力。应用大模型主要是通过推理算力,包括云端推理和端侧推理。

对于芯片的需求,基础大模型和场景大模型分别需要大算力训练芯片和中算力训练芯片,且对机器之间的数据互联带宽有较高的要求,都需要高速芯片互联。而应用大模型只需要云端推理算力,且可以使用分布式/单机训练和推理,是性价比较高的大模型之一。

算力肉眼可见地不断增长,燧原科技姚建国教授在公开演讲时也提到了一组数据:从2012年到2018年,训练AI算力增长了30万倍,摩尔定律相同时间通用算力只有7倍的增长。从这里可以看出AIGC对算力需求之高。

算力需求变化带来了三大问题,一是存/算性能失配,内存墙导致访存时延高、效率低;二是冯诺依曼架构下,功耗墙导致传输能耗损失;三是满足大模型需求,性能墙导致算力无法满足。姚建国教授表示,未来不仅仅是单核芯片去解决算力问题,一定会是通过一个系统级解决方案去实现整个算力适应变化。

目前,单独的服务器、集群难以解决大模型的预训练,因此需要有大算力加速,比如说H100提供了Transformer引擎;此外还有机密计算、COP互联加速、CXL协议等等各方面的创新。业内人士普遍认为,系统级创新会是未来的发展趋势

对于大模型未来的发展趋势,IDC中国首席分析师武连峰认为,AI大模型应用深化,从专属AI到通用AI,会是趋势之一。当然,最终实现通用AI的道路还有很长。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AIGC
    +关注

    关注

    1

    文章

    388

    浏览量

    2627
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    借势 RISC-V与 AI 浪潮,元石智打造新范式

    在AI技术飞速发展的当下,需求呈指数增长,成为推动行业前行的核心动力。与此同时,RISC-V架构凭借其开源、灵活、可定制等特性,正逐渐崭露头角,为AI
    的头像 发表于 07-25 14:51 ?202次阅读
    借势 RISC-V与 AI 浪潮,元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

    软通智完成超亿A轮融资,加速AI产业布局

    机构跟投。 自2024年成立以来,软通智积极参与全国一体化网建设,以技术驱动互联互通体系构建,
    的头像 发表于 06-18 15:37 ?224次阅读

    即国力,比克电池如何为AI时代“蓄能

    从车路协同破解出行困局,到AI医生实现千万问诊,再到智能工厂的全球零时差协同——人类正加速迈入以定义生产的“智
    的头像 发表于 06-04 14:22 ?569次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即国力,比克电池如何为AI时代“蓄能

    AIGC基础设施技术架构与行业实践

    代提升1.5倍,内存容量达288GB,适配千亿参数模型训练需求。 国产突破?:国内首款6nm高性能GPU芯片于2025年5月成功点亮,性能对标国际中端产品,已获亿元订单;国产芯片厂商与高端制程工艺结合,推动
    的头像 发表于 05-29 07:44 ?240次阅读
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基础设施技术架构与行业实践

    维谛技术(Vertiv)发布兆瓦UPS新品,破局高密AI负载供电挑战

    在AI时代,数据中心需要什么样的供电系统?随着AIGC业务需求的快速发展,导致机柜功率密度迅速增加,高密负载对数据中心的影响正日益加大。
    的头像 发表于 04-03 11:01 ?578次阅读
    维谛技术(Vertiv)发布兆瓦<b class='flag-5'>级</b>UPS新品,破局高密AI<b class='flag-5'>算</b><b class='flag-5'>力</b>负载供电挑战

    DeepSeek推动AI需求:800G光模块的关键作用

    随着人工智能技术的飞速发展,AI需求正以前所未有的速度增长。DeepSeek等大模型的训练与推理任务对
    发表于 03-25 12:00

    AI需求激增,数据中心如何应对能源挑战

    ? “AI的爆发带来了巨大的需求,为了满足AI大模型的训练和应用推理,智中心的建设将加速
    的头像 发表于 02-22 09:49 ?656次阅读
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>激增,数据中心如何应对能源挑战

    DeepSeek驱动AI市场升温,智中心利用率望提升

    据多位业内人士透露,DeepSeek在业界的迅速部署与应用,为AI市场带来了新的热潮。自年后开工两周以来,设备租赁及采购的咨询量显著
    的头像 发表于 02-19 14:00 ?513次阅读

    云 GPU 加速计算:突破传统瓶颈的利刃

    在数字化时代,数据呈爆炸式增长,传统的已难以满足复杂计算任务的需求。无论是人工智能的深度学习、大数据的分析处理,还是科学研究中的模拟计算,都对
    的头像 发表于 02-17 10:36 ?333次阅读

    AIGC入门及鸿蒙入门

    人工智能生成内容(AIGC)和鸿蒙系统是当前科技领域的两个热门话题。以下是对它们的入门指南: AIGC入门 1. 基础概念: AIGC,全称Artificial Intelligenc
    发表于 01-13 10:32

    芯片 高性能 CPU/GPU/NPU 微架构分析》第1-4章阅读心得——之巅:从基准测试到CPU微架构的深度探索

    ,还优化了能效比,使天河二号在Green500榜单上也表现出色。另一方面,MLPerf的出现标志着AI时代对需求变化。它涵盖了图像分类、目标检测、自然语言理解、智能推荐算法、强化
    发表于 10-19 01:21

    OCTC发布&quot;工厂&quot;!力促智中心高效规划建设投运

    创新提出面向未来数据中心的"工厂"模式,核心是以规(划)、建(设)、运(营)一体化的交钥匙工程,实现智中心快速投运、绿色低碳,在当前AIGC
    的头像 发表于 10-11 09:10 ?934次阅读
    OCTC发布&quot;<b class='flag-5'>算</b><b class='flag-5'>力</b>工厂&quot;!力促智<b class='flag-5'>算</b>中心高效规划建设投运

    中国大会召开,业界首个高质量评估体系发布

    首次完整地构建了人工智能时代高质量的理论体系,并探索性提出业界首个 "五位一体"的高质量评估体系。 发布现场 在当前由大模型和AIGC
    的头像 发表于 09-28 16:50 ?542次阅读
    中国<b class='flag-5'>算</b><b class='flag-5'>力</b>大会召开,业界首个<b class='flag-5'>算</b><b class='flag-5'>力</b>高质量评估体系发布

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04