0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

微云疏影 ? 来源:综合整理 ? 作者:综合整理 ? 2024-04-28 16:42 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

围绕“创新:构建更美好世界”主题,由科技部、发改委、工信部、国资委、中科院、工程院、科协及北京市政府联合举办的2024年中关村论坛于近日在京举行。本次论坛汇聚了来自100多个国家和地区的嘉宾,以及150多家外国政府部门和国际组织机构。同时,一系列人工智能新技术、新应用、新模式在此次论坛上得到展示和发布。

在论坛期间,中关村国际技术交易大会开幕式暨全球技术交易生态伙伴大会成功举办,并发布了《百项新技术新产品榜单》。值得关注的是,摩尔线程夸娥(KUAE)智算中心全栈解决方案荣获该榜单重点推荐。得益于其高兼容性、稳定性、扩展性及算力利用率等优势,摩尔线程夸娥智算集群能够为千亿参数级别的大模型训练提供强大的算力支持。

此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩尔线程成为首家接入无问芯穹并进行千卡级别大模型训练的国产GPU厂商。无问芯穹联合创始人兼CEO夏立雪表示,经过无问芯穹Infini-AI平台实训与联合优化,摩尔线程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表现出色,且在实训过程中实现了长时间稳定训练,为千亿参数级别大模型训练提供了持续高效的高性能算力支持。未来,他们计划将此合作模型在Infini-AI平台上向公众开放。

论坛首日,在北京银行新质生产力与组合金融发展大会上,摩尔线程创始人兼CEO张建中发表了以《构建AGI时代的金融科技新质生产力》为题的主旨演讲,强调人工智能作为新质生产力的创新引擎,将在金融行业中发挥重要作用。他指出,人工智能将通过个性化服务产品、智能化投资决策、自动化风险管理、安全化合规监管、便捷化降本增效等方式,有效应对金融科技领域所面临的诸多挑战。在大模型时代背景下,每个金融企业都应具备自身的大模型和训练基础设施,而安全普惠的国产化算力则是金融行业不可或缺的要素。摩尔线程依托全功能GPU,打造了涵盖芯片至智算中心的先进算力基础设施,以及覆盖软件加速库至大模型分布式训练系统的全栈软件服务,为我国金融行业的数智化转型提供了算力加速。

在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程联合创始人兼执行总裁王东重点解析了夸娥(KUAE)智算中心全栈解决方案的优点及价值,展示了解决大规模GPU算力建设和运营管理问题的能力。该方案由夸娥(KUAE)计算集群、KUAE Platform集群管理平台及KUAE ModelStudio模型服务组成,实现了开箱即用。目前,摩尔线程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在内的数十种主流大模型的训练与微调。实践证明,使用摩尔线程夸娥(KUAE)千卡集群进行70B至130B参数规模的大模型训练,其线性加速比高达91%且算力利用率稳定。

中关村论坛作为中国面向全球科技创新交流合作的国家级平台,已成功举办14届。摩尔线程作为中关村独角兽芯片企业与北京市“专精特新”企业,受邀在中关村展示中心常设展出人工智能集群展区和集成电路集群展区。凭借全功能GPU的多元计算优势,摩尔线程已形成以夸娥智算集群为核心的全栈AI产品线,致力于成为大模型和通用人工智能的先进算力基础设施。展望未来,摩尔线程将持续以AI为核心,以技术创新驱动发展,不断拓宽加速计算领域,为构建更美好的数智世界贡献力量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4985

    浏览量

    132236
  • 摩尔线程
    +关注

    关注

    2

    文章

    243

    浏览量

    5594
  • 大模型
    +关注

    关注

    2

    文章

    3250

    浏览量

    4249
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    睿海光电800G光模块助力全球AI基建升级

    18%。 智算中心建设:与国内AI独角兽合作,提供支持液冷散热的800G模块集群,助力其大模型训练效率提升30%。 边缘计算网络:在北美某5
    发表于 08-13 19:05

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    器件敏捷调配。 定制服务:支持OEM/ODM/JDM模式,满足客户从标准品到液冷模块的多元需求。 这一优势已助力多家头部云服务商在AI云平台部署中抢占市场窗口期。 三、广泛兼容性:
    发表于 08-13 19:01

    摩尔线程亮相WAIC 2025:以“AI工厂”理念驱动算力进化,全栈AI应用赋能千行百业

    模型的“超级工厂”。此次参会不仅彰显了摩尔线程AI基础设施领域的系统性创新,更通过多行业案例展现了国产GPU技术的广泛应用前景。 ? ? 首提“A
    的头像 发表于 07-28 11:34 ?710次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>亮相WAIC 2025:以“<b class='flag-5'>AI</b>工厂”理念驱动算力进化,全栈<b class='flag-5'>AI</b>应用赋能千行百业

    摩尔线程AI工厂”:五大核心技术支撑,打造大模型训练超级工厂

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代A
    的头像 发表于 07-28 11:28 ?727次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“<b class='flag-5'>AI</b>工厂”:五大核心技术支撑,打造大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>超级工厂

    摩尔线程AI工厂”:以系统级创新定义新一代AI基础设施

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代A
    发表于 07-28 10:34 ?1605次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“<b class='flag-5'>AI</b>工厂”:以系统级创新定义新一代<b class='flag-5'>AI</b>基础设施

    海思SD3403边缘计算AI数据训练概述

    模型,将模型转化为嵌入式AI模型模型升级AI摄像
    发表于 04-28 11:11

    RAKsmart智能算力架构:异构计算+低时延网络驱动企业AI训练范式升级

    AI模型参数量突破万亿、多模态应用爆发的今天,企业AI训练正面临算力效率与成本的双重挑战。RAKsmart推出的智能算力架构,以异构计算
    的头像 发表于 04-17 09:29 ?416次阅读

    摩尔线程GPU成功适配Deepseek-V3-0324大模型

    架构和全功能GPU的强大技术实力,摩尔线程迅速响应并完成了对DeepSeek-V3的无缝升级,实现了零报错、零兼容性问题的光速部署,充分展现了摩尔
    的头像 发表于 03-31 11:34 ?750次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU成功适配Deepseek-V3-0324大<b class='flag-5'>模型</b>

    摩尔线程GPU原生FP8计算助力AI训练

    并行训练和推理,显著提升了训练效率与稳定性。摩尔线程是国内率先原生支持FP8计算精度的国产GPU企业,此次开源不仅为
    的头像 发表于 03-17 17:05 ?882次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU原生FP8<b class='flag-5'>计算</b><b class='flag-5'>助力</b><b class='flag-5'>AI</b><b class='flag-5'>训练</b>

    摩尔线程宣布成功部署DeepSeek蒸馏模型推理服务

    近日,摩尔线程智能科技(北京)有限责任公司在其官方渠道发布了一则重要消息,宣布公司已经成功实现了对DeepSeek蒸馏模型推理服务的部署。这一技术突破,标志着摩尔
    的头像 发表于 02-06 13:49 ?919次阅读

    GPU是如何训练AI模型

    AI模型训练过程中,大量的计算工作集中在矩阵乘法、向量加法和激活函数等运算上。这些运算正是GPU所擅长的。接下来,AI部落小编带您了解G
    的头像 发表于 12-19 17:54 ?859次阅读

    ai模型训练需要什么配置

    较小的数据集和简单的计算任务,如数据预处理、模型评估等。因此,选择一款高性能的CPU对于提高AI模型训练的整体效率至关重要。 推荐选择Int
    的头像 发表于 10-17 18:10 ?4377次阅读

    摩尔线程与羽人科技完成大语言模型训练测试

    (YuRen-7b)大语言模型训练测试。测试结果显示,训练效率达到预期,夸娥千卡智算集群展现出了高度的兼容性和稳定性,为羽人科技未来的零代码训练
    的头像 发表于 08-27 16:19 ?908次阅读

    摩尔线程夸娥智算中心解决方案重磅升级

    摩尔线程重磅宣布其AI旗舰产品夸娥(KUAE)智算集群解决方案实现重大升级,从当前的千卡级别大幅扩展至万卡规模。摩尔
    的头像 发表于 08-27 16:09 ?1212次阅读

    摩尔线程正式开源音频理解大模型MooER

    近日,国内领先的GPU创新企业摩尔线程宣布了一项重大技术突破——正式开源其自主研发的音频理解大模型MooER(摩耳)。这一举动标志着我国在音频处理与理解领域迈出了坚实的一步,特别是在基于国产硬件的
    的头像 发表于 08-27 15:24 ?1023次阅读