0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

燧原科技集群式AI算力服务将助国产大模型“百舸争流”

燧原科技Enflame ? 来源:上海经信委 ? 2024-03-28 11:03 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

根据《上海打造未来产业创新高地发展壮大未来产业集群行动方案》(沪府发〔2022〕11号)部署,市经济信息化委联合市委组织部、市发展改革委、市教委、市科委、市市场监管局、市国资委等单位共同指导举办了2023全球“未来产业之星”大赛(简称“大赛”),立足国际视野、面向全球聚焦前沿科技与应用创新,以“项目+人才”双轮驱动的模式,推进未来产业领域的技术创新和成果产业化,为上海打造未来产业创新高地提供项目和人才支撑。

首届大赛吸引海内外536个高能级项目和高层次人才报名,全面覆盖5大未来产业领域、16个技术方向。经过初、复、决赛多轮竞逐,涌现出一批未来产业优秀项目及人才。2024年上海市产业技术创新大会上,举行了大赛颁奖仪式,10个项目和10位人才获超能奖。

即日起,上海经信委推出“未来产业之星”专栏,宣传介绍大赛优秀项目,展示未来产业前沿技术及企业风采。

未来智能

涵盖了人工智能、大数据、云计算等前沿技术的智能计算技术正以惊人的速度改变着我们的生活和工作方式,也是未来科技的“航向标”。前年底,以ChatGPT为标志性事件的包括对话机器人、文字续写等文生文领域的一系列示范性创新应用的出现,迅速引领人工智能进入了以内容生成为核心特色的AI2.0时代。在大模型“百家争鸣”、风起云涌的契机下,应如何做好准备,迎接人工智能的大规模产业化?

在上海燧原科技有限公司产品市场高级总监陈超看来,人工智能对人类生产力产生巨大影响的同时,对于基础设施的算力服务范式同样产生了根本性的变革。“未来的通用人工智能AGI必然需要通过集群式的AI算力提供持续的、规模性的、集约性的算力服务提供,”陈超说,在这一趋势下,面向超大模型的云燧智算机CloudBlazer POD,即旨在满足AIGC时代对超大规模算力的迫切需求。

据了解,燧原科技专注人工智能芯片、板卡和集群产品的研发,其基于云燧智算机的系统产品形态,可提供高算力密度、高性能的同时具备高扩展性和高性价比的集群算力形态,为包括各类型的智算中心和大模型训练与开发提供极具性价比优势的系统方案。

陈超指出,当前智算中心以及客户端针对系统集群有几大痛点,一是从智算中心需求立项,到集群架构方案确定、采购招标、交付建设直到上线运营,时间跨度非常大;二是智算中心一直诟病算力利用率较低,不能充分发挥集群的算力优势,导致企业的投入产出效率太低,收回投入遥遥无期;三是当集群规模越大,设备的稳定性严重影响到业务的持续运行,降低了集群的可用时间占比,极致严重的情况下会导致业务不可运行。

针对这些问题,燧原科技基于云燧智算机的方案打通了生产供应全流程,从整体方案层面进行设计优化,平衡算力、存储和网络的配比与配置,从而大幅度提高了集群的算力利用率,同时云燧智算机从芯片、板卡、服务器、单POD机柜到多机柜联合设计了一系列的系统级压力测试方案,保证提供24小时稳定的算力基础设施。

在产品落地和大规模产业化的过程中,这一未来技术会遇到怎样的挑战?

陈超表示,一方面,部署场景是多元化的,数据中心的选址和布局,客户的应用场景都是不一样的。如何在软硬件层面兼容客户多元化的需求,提供面向应用的高效能支撑,是云燧智算机持续迭代优化的源动力。

另一方面,客户对于降本增效的需求是持续存在的。如何纳入新的技术与产品形态,如何打造匹配不同诉求的集群方案,是云燧智算机持续优化方案、优化供应链、优化生产各环节的聚焦点。

此外,在算力密度持续增高,算力规模持续放大的形势下,数据中心对于能效提出了更高的要求,系统级散热方案也在持续优化,从传统的风冷向液冷的多技术方案持续演进。

在陈超看来,大赛面向全球聚焦前沿科技与应用创新,这种国际化的平台不仅为参赛选手提供了广阔的机会来展示自己的才华和创新力,也为其提供了与来自世界各地的优秀人才互动的机会,促进了国际间的技术和经验交流。

此外,“国际交流与合作能加速创新成果的转化和应用,为全球经济和社会发展带来更多的机遇和变革,”陈超说,燧原科技参与大赛的初衷,正是希望其专为大模型量身定做的AI集群产品得到国内外产、学、研、用各界专家的关注,进一步加强与全球范围内产业专家与合作伙伴的深入沟通交流。

在陈超看来,国际科技竞争日益加剧,集成电路与人工智能的形势尤为严峻。AI芯片是集成电路与人工智能的交汇之处,具有重要战略意义与现实意义,加快建设国产AI芯片生态十分必要且万分紧迫。“多年来,上海及长三角地区一直是中国集成电路和人工智能产业的创新高地,产业链条完整、龙头企业众多、顶尖人才汇聚,拥有全生态技术产品开发及商业化应用的能力,已经具备建设国产AI芯片产业生态的各项准备条件。”

针对国产AI算力芯片产业的未来发展,陈超建议,一是要重视有效算力,推动算尽其用,让国产算力落地见效、开花结果,推动AI技术赋能更多行业;第二,立足国内市场,放眼世界舞台,一方面要逐步实现自主、可控、安全的目标,另一方面要以更加长远的战略眼光,谋划中长期全球科技发展格局,面向全球打造AI芯片生态的更多可能性;三是“AI芯片企业需要加速向规模化方向发展,更快更好地实现自我造血,追求长远的、可持续的、可预测的发展。”



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 云计算
    +关注

    关注

    39

    文章

    7982

    浏览量

    140872
  • 人工智能
    +关注

    关注

    1810

    文章

    49221

    浏览量

    251556
  • 大数据
    +关注

    关注

    64

    文章

    8966

    浏览量

    140847
  • AI芯片
    +关注

    关注

    17

    文章

    1994

    浏览量

    36057
  • 燧原科技
    +关注

    关注

    0

    文章

    145

    浏览量

    9120

原文标题:【未来产业之星】燧原科技:持续、规模、集约的集群式AI算力服务将助国产大模型“百舸争流”

文章出处:【微信号:gh_1222367b8780,微信公众号:燧原科技Enflame】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    从万卡集群到十万卡集群原科技始终践行普惠

    健康、教育等垂直领域,对设施有着更加广泛的需求,包括智中心和训推一体机等。 ? 在 2025 世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2025)上,作为国产人工智
    发表于 07-30 09:54 ?3632次阅读
    从万卡<b class='flag-5'>集群</b>到十万卡<b class='flag-5'>集群</b>,<b class='flag-5'>燧</b>原科技始终践行<b class='flag-5'>算</b><b class='flag-5'>力</b>普惠

    一文看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI集群
    的头像 发表于 07-23 12:18 ?200次阅读
    一文看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>集群</b>

    原科技国产万卡集群通过中国信通院权威认证

    近日,中国信息通信研究院(以下简称“中国信通院”)成功召开万卡智集群服务推进方阵年中总交流会。会议期间,中国信通院重磅发布了首批《大规模智集群
    的头像 发表于 07-04 16:50 ?537次阅读

    热插拔集群

    能力? 服务器节点热插拔?:集群服务器支持在线更换计算节点(如2U服务器容纳12个热插拔AI节点,单节点集成5个
    的头像 发表于 06-26 09:20 ?282次阅读

    为千行万业开通途,为什么是

    成海,万业乘云逐浪
    的头像 发表于 04-27 15:09 ?1946次阅读
    为千行万业开<b class='flag-5'>算</b><b class='flag-5'>力</b>通途,为什么是<b class='flag-5'>百</b><b class='flag-5'>舸</b>?

    RAKsmart高性能服务集群:驱动AI大语言模型开发的引擎

    RAKsmart高性能服务集群凭借其创新的硬件架构与全栈优化能力,成为支撑大语言模型开发的核心算引擎。下面,AI部落小编带您了解RAKs
    的头像 发表于 04-15 09:40 ?315次阅读

    DeepSeek推动AI需求:800G光模块的关键作用

    随着人工智能技术的飞速发展,AI需求正以前所未有的速度增长。DeepSeek等大模型的训练与推理任务对
    发表于 03-25 12:00

    3.5D Chiplet技术典型案例解读

    。随着模型参数的不断扩大以及AI模型百舸争流,训练侧所需的
    的头像 发表于 03-03 11:15 ?1060次阅读
    3.5D Chiplet技术典型案例解读

    昆仑芯P800万卡集群成功点亮,进一步点亮3万卡集群

    的。而24年9月升级的AI异构计算平台4.0,围绕落地大模型全旅程的
    发表于 02-05 17:58 ?542次阅读
    昆仑芯P800万卡<b class='flag-5'>集群</b>成功点亮,<b class='flag-5'>将</b>进一步点亮3万卡<b class='flag-5'>集群</b>

    【「大模型时代的基础架构」阅读体验】+ 未知领域的感受

    算法的引擎GPU、GPU硬件架构剖析、GPU服务器的设计与实现、GPU集群的网络设计与实现、GPU板卡级调度技术、基于云平台的GPU集群
    发表于 10-08 10:40

    AI计算平台4.0震撼发布

    在2024年度云智大会的璀璨舞台上,度智能云重磅推出了AI异构计算平台的全新力作——4.0版本。此次升级,标志着
    的头像 发表于 09-26 14:46 ?958次阅读

    百舸争流,迈向深蓝

    云沐资本自创立伊始就聚焦科技品牌领域的投资赋能,深度挖掘产业资源,联动各方投资机构,陪伴优秀创业者共同成长。历经多年实践和迭代,云沐资本近日正式宣布全球化基金完成首关,云沐团队继续秉持科技品牌
    发表于 09-24 17:21 ?538次阅读
    <b class='flag-5'>百舸争流</b>,迈向深蓝

    弘信电子集团子公司弘绿色与首都在线共建庆阳万卡集群

    弘信电子旗下子公司甘肃弘绿色有限公司(以下简称“弘绿色”)与北京首都在线科技股份有限公司(以下简称“首都在线”)共同签署《共建庆阳万卡集群
    的头像 发表于 09-20 10:47 ?1229次阅读

    弘华创助力庆阳构建产业生态

    全国一体化网络庆阳枢纽节点首批万P成功上线,首个国产万卡
    的头像 发表于 09-20 10:38 ?1070次阅读

    模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型,以及相关的稳定性和性能
    发表于 08-20 09:04