0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

完成适配!曦云C500在智谱AI升级版大模型上充分兼容、高效稳定运行

沐曦MetaX ? 来源:沐曦MetaX ? 2023-08-23 10:38 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,沐曦集成电路(上海)有限公司(下称“沐曦”)曦云C500千亿参数AI大模型训练及通用计算GPU与北京智谱华章科技有限公司(下称“智谱AI”)开源的中英双语对话语言模型ChatGLM2-6B完成适配。测试结果显示,曦云C500在智谱AI的升级版大模型上充分兼容、高效稳定运行。

沐曦旗舰产品曦云C500基于自主研发的高性能GPU IP,特别适合千亿参数AI大模型的训练和推理;基于全自研 GPU 指令集打造的MXMACA软件栈,全面兼容主流GPU生态,实现用户零成本迁移;通过自主知识产权的MetaXLink实现单机8卡GPU全互联,提供构建高密度算力和云计算部署的优秀国产GPU解决方案;可广泛应用于千亿参数AI大模型训练与推理、AIGC内容生成、推荐系统、自动语音识别、语音合成、图像分割检测,以及科学计算、数据库加速等多种场景。

由清华技术成果转化的智谱AI推出的双语对话模型ChatGLM2-6B在初代模型ChatGLM-6B基础上做了升级,采用监督微调、反馈自助和人类反馈强化学习等方式,能够生成符合人类偏好的答案。通过此次联合适配测试,依托曦云C500运行的ChatGLM2-6B可节省大量时间成本和运营成本,降低硬件接入AI模型训练和推理的门槛,为国产大模型提供强大的算力支撑。未来双方将共同探索国产GPU大模型训推一体机在各个行业的应用,携手打造软硬件一体化解决方案,让企业可以在国产自主创新的平台上实现自主、安全、可控的大模型应用和迭代。

关于沐曦

沐曦致力于为异构计算提供安全可靠的GPU芯片及解决方案,打造全栈GPU芯片产品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千亿参数AI大模型训练及通用计算,以及曦彩G系列GPU用于图形渲染,满足数据中心对“高能效”及“高通用性”的算力需求。沐曦产品均采用完全自主研发的GPU IP,拥有完全自主的指令集和架构,配以兼容主流GPU生态的完整软件栈(MXMACA),具备高能效和高通用性的天然优势,能够为客户构建软硬件一体的全面生态解决方案,是“双碳”背景下推动数据中心建设和产业数字化、智能化转型升级的算力基石。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4968

    浏览量

    131661
  • AI
    AI
    +关注

    关注

    88

    文章

    35476

    浏览量

    281271
  • 语言模型
    +关注

    关注

    0

    文章

    563

    浏览量

    10839
  • 沐曦
    +关注

    关注

    0

    文章

    37

    浏览量

    1482
  • 大模型
    +关注

    关注

    2

    文章

    3191

    浏览量

    4147

原文标题:沐曦与智谱AI完成兼容性测试 共建软硬件一体化解决方案

文章出处:【微信号:沐曦MetaX,微信公众号:沐曦MetaX】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    硅基流动携手沐首发基于的Kimi K2推理服务

    今天,硅基流动联合沐集成电路(上海)股份有限公司(简称“沐”),全球首发基于沐 C55
    的头像 发表于 07-23 17:33 ?729次阅读

    壁仞科技完成Qwen3旗舰模型适配

    近日,高效适配Qwen3系列模型推理后,壁仞科技宣布完成旗舰版Qwen3-235B-A22B模型
    的头像 发表于 05-16 16:23 ?459次阅读

    PaddleScience完成与沐AI芯片适配

    当前,PaddleScience已与沐展开深度合作,涵盖智能仿真、高性能计算、科学建模等多个方向。这一趋势正加速形成面向"Al for Science"的国产智算生态新格局。
    的头像 发表于 05-06 14:49 ?714次阅读

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    。 端侧AI应用开发往往需要调用各种各样的大模型能力,需要更丰富、类型更多的模型适配。为此,Gen-AI Model Hub全面扩容,
    发表于 04-13 19:52

    C500通用计算GPU与百度飞桨完成Ⅱ级兼容性测试

    近日,沐C500通用计算GPU与百度飞桨已完成Ⅱ级兼容性测试。测试结果显示,双方
    的头像 发表于 03-31 14:22 ?933次阅读

    C550通用计算GPU完成DeepSeek R1-671B大模型适配

    近日,我国发布多款全球领先的大模型,人工智能(AI)技术产业进入跨越式发展的新阶段。中国信通院依托人工智能芯片测试评估公共服务平台,开展AI芯片与大模型
    的头像 发表于 03-20 15:56 ?2375次阅读

    加速DeepSeek满血版单卡C500异构推理

    近日,基于开源KTransformers架构的 CPU/GPU 异构推理能力,沐C500单卡GPU上成功实现DeepSeek-R1-
    的头像 发表于 03-20 15:52 ?1249次阅读

    百度智能四款大模型应用完成DeepSeek适配

    百度智能AI模型应用方面取得了新的进展。近日,其旗下的客悦、灵、一见、甄知四款大模型应用
    的头像 发表于 02-10 10:47 ?513次阅读

    Gitee AI 联合沐首发全套 DeepSeek R1 千问蒸馏模型,全免费体验!

    、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B四个较小尺寸的 DeepSeek 模型。值得关注的是, 本次上线的四个模型均部署国产沐
    的头像 发表于 02-10 09:56 ?775次阅读
    Gitee <b class='flag-5'>AI</b> 联合沐<b class='flag-5'>曦</b>首发全套 DeepSeek R1 千问蒸馏<b class='flag-5'>模型</b>,全免费体验!

    海光信息技术团队成功适配DeepSeek大模型

    方面取得了重要进展。 DeepSeek-Janus-Pro是海光团队近期完成适配优化的第三款DeepSeek大模型。此次适配工作的顺利完成
    的头像 发表于 02-08 14:10 ?701次阅读

    中软国际推出升级版一站式AI解决方案服务

    近日,中软国际模型工场基于昇腾云、DeepSeek模型,推出升级版一站式AI解决方案服务。基于昇腾云,模型工场已
    的头像 发表于 02-08 10:18 ?626次阅读

    科技AI芯片CAISA 430成功适配DeepSeek R1模型

    科技全新一代的可重构数据流 AI 芯片 CAISA 430 成功适配 DeepSeek R1 蒸馏模型推理,这一创新举措为大模型应用的
    的头像 发表于 02-07 09:57 ?1618次阅读
    鲲<b class='flag-5'>云</b>科技<b class='flag-5'>AI</b>芯片CAISA 430成功<b class='flag-5'>适配</b>DeepSeek R1<b class='flag-5'>模型</b>

    澎峰科技与沐完成联合测试,实现全面兼容

    实现了全面兼容,为用户提供了更为高效稳定的解决方案。 测试过程中,澎峰科技与沐科技的技术团队紧密协作,对PerfXLM和PerfXCl
    的头像 发表于 01-21 15:20 ?681次阅读

    澎峰科技计算软件栈与沐GPU完成适配和互认证

    ?近期,澎峰科技与沐完成了对PerfXLM(推理引擎)、PerfXCloud(大模型服务平台)与沐云系列通用计算GPU的联合测试,测
    的头像 发表于 01-21 09:51 ?694次阅读

    摩尔线程与超图软件完成产品兼容认证

    。 据悉,为了确保产品间的兼容性,摩尔线程与超图软件进行了严格的测试工作。经过双方的努力,适配调优后的软件摩尔线程GPU展现出了卓越的性能表现。测试结果显示,软件
    的头像 发表于 10-24 10:25 ?1052次阅读