0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

摩尔线程 ? 来源:摩尔线程 ? 2024-05-29 10:28 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已完成训练及推理适配。基于摩尔线程夸娥千卡智算集群,滴普科技成功完成了700亿参数LLaMA2大语言模型的预训练测试,训练时长共计77小时,全程无故障连续运行,集群训练稳定性达到100%,训练效率和兼容性均达到预期。

f3c76320-1d62-11ef-b74b-92fbcf53809c.png

滴普科技作为数据智能服务商,以数据智能技术为基础,为客户提供数据智能基础设施、企业大模型产品,以及数据智能创新服务。基于已深度服务的头部客户所积累的深厚数据能力,滴普科技构建的Deepexi企业大模型,在语义、视觉、语音、跨模态等方面的能力均表现优越,能够运用模型工具链为企业提供高质量的数据准备、模型训练、调优、部署及推理服务,快速构建企业不同领域模型以及智能体应用,帮助企业实现从数据驱动到智能驱动的升级。

此次,摩尔线程与滴普科技的合作,借助夸娥千卡智算集群全栈方案的模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为构建国产化数智赋能底座奠定坚实基础。同时,夸娥千卡智算集群作为业内首个跑通、跑完国产大模型的千卡集群,以全功能GPU为底座,提供软硬一体化的全栈解决方案。基于此次合作,双方能够为各行各业提供全国产大模型解决方案,广泛应用于训练、微调和实时推理等场景。

目前,滴普科技已与中国海诚、中核装备院、百丽时尚等企业开展产业落地实践,成为产业大模型落地的领先企业。未来,摩尔线程与滴普科技将继续发挥双方在技术、场景和软硬件协同方面的优势,在能源、金融、先进制造等领域,以及与央企、国企的合作中,共同探索全国产化解决方案的落地机会,推动人工智能在更多产业领域的应用,助力企业实现智能升级,赋能行业高质量发展。

审核编辑:刘清
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4985

    浏览量

    132236
  • 人工智能
    +关注

    关注

    1810

    文章

    49251

    浏览量

    252059
  • 摩尔线程
    +关注

    关注

    2

    文章

    243

    浏览量

    5594
  • 大模型
    +关注

    关注

    2

    文章

    3250

    浏览量

    4249

原文标题:摩尔线程 × 滴普科技|完成大模型训练与推理适配

文章出处:【微信号:moorethreads,微信公众号:摩尔线程】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    杭州灵汐类脑智集群实现大模型快速推理

    据悉,“杭州灵汐类脑智集群”已于7月底实现了大模型快速推理API的企业服务试运行。该集群由杭州
    的头像 发表于 08-18 16:06 ?223次阅读

    澎峰科技完成OpenAI最新开源推理模型适配

    澎峰科技现已完成 OpenAI 最新开源推理模型 gpt-oss-20b 在 DeepFusion 大模型一体机上的原生适配与优化,用户可一键启用这颗“小而强悍”的新引擎,在本地享受
    的头像 发表于 08-14 11:34 ?539次阅读

    摩尔线程“AI工厂”:五大核心技术支撑,打造大模型训练超级工厂

    演讲中表示,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,构建新一代AI训练基础设施,致力于为AGI时代打
    的头像 发表于 07-28 11:28 ?727次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>“AI工厂”:五大核心技术支撑,打造大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>超级工厂

    摩尔线程GPU成功适配Deepseek-V3-0324大模型

    架构和全功能GPU的强大技术实力,摩尔线程迅速响应并完成了对DeepSeek-V3的无缝升级,实现了零报错、零兼容性问题的光速部署,充分展现了摩尔
    的头像 发表于 03-31 11:34 ?750次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU成功<b class='flag-5'>适配</b>Deepseek-V3-0324大<b class='flag-5'>模型</b>

    摩尔线程GPU原生FP8计算助力AI训练

    并行训练推理,显著提升了训练效率与稳定性。摩尔线程是国内率先原生支持FP8计算精度的国产GPU企业
    的头像 发表于 03-17 17:05 ?882次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>GPU原生FP8计算助力AI<b class='flag-5'>训练</b>

    千卡力破局:科通技术以&quot;AI大模型+AI芯片&quot;重构智底座

    “科通技术”)推出的“DeepSeek+AI芯片”全场景方案,在云AI领域取得重大突破。除了GPU的力总量,云AI的一大挑战来源于GPU集群的数据互联效率。某大型互联网集团为解决云AI系统中千卡级GPU
    的头像 发表于 03-17 11:14 ?506次阅读

    摩尔线程支持阿里云通义问QwQ-32B开源模型

    近日,阿里云团队正式开源全新推理模型——通义问QwQ-32B。摩尔线程在该模型发布后2小时内,迅速且高效
    的头像 发表于 03-07 17:48 ?861次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>支持阿里云通义<b class='flag-5'>千</b>问QwQ-32B开源<b class='flag-5'>模型</b>

    摩尔线程宣布成功部署DeepSeek蒸馏模型推理服务

    近日,摩尔线程智能科技(北京)有限责任公司在其官方渠道发布了一则重要消息,宣布公司已经成功实现了对DeepSeek蒸馏模型推理服务的部署。这一技术突破,标志着
    的头像 发表于 02-06 13:49 ?919次阅读

    天数智芯与无问芯穹合作突破千卡集群训练优化

    近日,天数智芯与无问芯穹宣布达成深度合作,并在千卡集群训练优化领域取得了重大技术突破。这一合作基于天数智芯的天垓150卓越计算能力和无问芯穹自主研发的大模型
    的头像 发表于 01-21 14:31 ?1028次阅读

    摩尔线程完成股改,筹备上市

    近日,摩尔线程智能科技(北京)股份有限公司(简称“摩尔线程”)宣布已完成股改,并正积极筹备上市。据国家
    的头像 发表于 11-12 14:15 ?1359次阅读

    性能提升近一倍!壁仞科技携手无问芯穹,在千卡训练集群等领域取得技术新突破

    随着智能力需求的倍增,到2024年,千卡集群已成为国内大模型训练的必备场景。壁仞科技,作为
    发表于 11-05 18:45 ?1761次阅读
    性能提升近一倍!壁仞科技携手无问芯穹,在<b class='flag-5'>千卡</b><b class='flag-5'>训练</b><b class='flag-5'>集群</b>等领域取得技术新突破

    摩尔线程GPU与超图软件大模型适配:共筑国产地理空间AI新生态

    10月24日,摩尔线程公司宣布与超图软件达成重要合作里程碑。经过双方的严格测试,摩尔线程的MTT S/X系列全功能GPU已成功与超图软件最新发布的大
    的头像 发表于 10-24 11:29 ?1580次阅读

    摩尔线程与超图软件完成产品兼容认证

    10月24日,摩尔线程官方正式对外宣布,其MTT S/X系列全功能GPU已成功与超图软件最新发布的大模型系列产品完成产品兼容认证。这一消息的发布标志着双方在GPU与软件
    的头像 发表于 10-24 10:25 ?1127次阅读

    摩尔线程与羽人科技完成大语言模型训练测试

    近日,摩尔线程与羽人科技携手宣布,双方已成功实现夸娥(KUAE)千卡集群与羽人系列模型解决方
    的头像 发表于 08-27 16:19 ?908次阅读

    摩尔线程夸娥智中心解决方案重磅升级

    摩尔线程重磅宣布其AI旗舰产品夸娥(KUAE)智集群解决方案实现重大升级,从当前的千卡级别大幅扩展至万卡规模。
    的头像 发表于 08-27 16:09 ?1212次阅读