0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昇腾910和含光800性能对比

工程师 ? 2023-10-16 17:29 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

有网友问昇腾910和含光800性能对比;华为推出的昇腾910性能强大,而含光800则是阿里巴巴发布的含光800AI芯片。

2019年9月25日,阿里巴巴发布含光800AI芯片;含光800是高性能的AI推理芯片。该芯片推理性能达到78563 IPS,能效比500 IPS/W。

含光800AI芯片基于RISC-V和阿里自有算法,含光800芯片性能的突破得益于软硬件的协同创新:硬件层面采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。

含光800AI芯片相比传统GPU算力,性价比提升100%。根据云栖大会的现场演示结果显示,比如拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。

据阿里介绍含光NPU采用TSMC 12nm工艺制程,可提供全球最高单芯片AI推理性能。 在HGAI模型的推理应用中,含光NPU每秒钟可处理高达78000 IPS的图片,是同类处理器的数十倍性能。

目前含光800目前已被应用到阿里巴巴旗下的的多个业务场景,比如图像视频分析、城市大脑、搜索优化等等。

2019年8月23日,华为发布AI芯片Ascend 910(昇腾910)。

据华为官方介绍,昇腾910AI处理器,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI性能与能效,架构灵活伸缩,支持云边端全栈全场景应用。

除了基于达芬奇架构的AI核外,昇腾910还集成了多个CPU、DVPP和任务调度器(Task Scheduler),因而具有自我管理能力,可以充分发挥其高算力的优势。

昇腾910集成了HCCS、PCIe 4.0和RoCE v2接口,为构建横向扩展(Scale Out)和纵向扩展(Scale Up)系统提供了灵活高效的方法。HCCS是华为自研的高速互联接口,片内RoCE可用于节点间直接互联。最新的PCIe 4.0的吞吐量比上一代提升一倍。

昇腾910算力是国际顶尖AI芯片的2倍,相当50个当前最新最强的CPU;其训练速度,也比当前最新最强的芯片提升了50%-100%。同时华为还发布了配套的新一代AI开源计算框架MindSpore。两者搭配性能最大化利用芯片算力。

新一代的AI开源计算框架MindSpore创新编程范式,使得工程师更容易使用;该计算框架可满足终端、边缘计算、云全场景需求,能更好保护数据隐私;可开源,形成广阔应用生态。

昇腾910半精度(FP16)算力达256 TFLOPS。(还有一个说法是昇腾910的半精度(FP16)算力达到320 TFLOPS);而整数精度(INT8)算力达到 640 TOPS,(还有一个说法是整数精度(INT8)算力达到512 Tera-OPS;小编认为一个数值可能是设计参数值,一个可能是极值)功耗 310W,采用 7nm 先进工艺。此外,昇腾 910 集成了 HCCS、PCIe 4.0 和 RoCE v2 接口,为构建横向扩展 (Scale Out)和纵向扩展(Scale Up)系统提供了灵活高效的方法。

比如华为的Atlas 900 AI训练集群,算力达到了256 PFLOPS。要实现这样的算力,如果采用通用CPU需要6195个机柜,用GPU需要208个机柜,而NPU如昇腾只要128个机柜,这归功于昇腾架构对深度学习业务的优化。而且最终,华为只用了16个机柜来实现。

此外,昇腾910为国产AI芯片助力,华为盘古大模型从算力(昇腾算力,昇腾的底层架构也是华为自创的)、芯片使能、AI框架(MindSpore AI计算框架)到AI平台(AI开发生产线ModelArts)实现了全栈自主创新。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4969

    浏览量

    131740
  • NPU
    NPU
    +关注

    关注

    2

    文章

    333

    浏览量

    19853
  • AI芯片
    +关注

    关注

    17

    文章

    1990

    浏览量

    35997
  • 昇腾910
    +关注

    关注

    0

    文章

    14

    浏览量

    7057
  • 含光800
    +关注

    关注

    0

    文章

    3

    浏览量

    1765
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    智能客服驱动效率和体验升级,上海电信+AI的一次民生应用实践

    上海电信+AI的一次民生应用实践
    的头像 发表于 07-30 23:44 ?1475次阅读
    智能客服驱动效率和体验升级,上海电信+<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI的一次民生应用实践

    华为人工智能伙伴峰会成功举行

    近日,在华为中国合作伙伴大会期间,人工智能伙伴峰会在深圳正式召开。会上,华为计算业务总裁张迪煊发表了《与时代 共
    的头像 发表于 04-01 15:38 ?784次阅读

    DeepSeek在上的模型部署的常见问题及解决方案

    2024年12月26日,DeepSeek-V3横空出世,以其卓越性能备受瞩目。该模型发布即支持,用户可在硬件和MindIE推理引擎上
    的头像 发表于 03-25 16:53 ?962次阅读
    DeepSeek在<b class='flag-5'>昇</b><b class='flag-5'>腾</b>上的模型部署的常见问题及解决方案

    创思远达与合作推动AI PC应用创新

    近日,端侧智能领域创新者创思远达携手,基于算力平台正式发布一系列AIPC应用。双方深度融合了
    的头像 发表于 03-25 10:22 ?690次阅读

    软通动力携手吉布森生物科技推出智能医疗诊断平台

    华为中国合作伙伴大会2025期间,软通动力联合吉布森生物科技有限公司正式发布“智能医疗诊断平台”,该平台基于AI基础软硬件及辅助影像诊断算法,为医疗行业提供智能化解决方案。
    的头像 发表于 03-24 15:47 ?494次阅读

    Deepseek进入业务深水区,为什么需要大EP?

    行业智能化的高铁,由大EP+DeepSeek的双轨铺成
    的头像 发表于 03-17 15:09 ?1287次阅读
    Deepseek进入业务深水区,为什么需要<b class='flag-5'>昇</b><b class='flag-5'>腾</b>大EP?

    (原创)310B(8T/20T)算力主板定制方案

    310B(20T)算力主板规格书 1.功能、性能与接口a)310B 20T算力处理器, 4个64位TAISHAN V200M处理器核
    发表于 03-16 21:43

    2025AI开发者创享日浙江站成功举办,现场演示OrangePi AIpro(20T)部署DeepSeek模型开发全流程

    伙伴,香橙派受邀参加此次活动,并向与会嘉宾介绍了香橙派与华为联合开发的四款高性能人工智能开发板:OrangePiAIpro(8T)/20(T)、OrangeP
    的头像 发表于 03-12 14:44 ?719次阅读
    2025<b class='flag-5'>昇</b><b class='flag-5'>腾</b>AI开发者创享日浙江站成功举办,现场演示OrangePi AIpro(20T)部署DeepSeek模型开发全流程

    润和软件将持续深化“+DeepSeek”技术路线

    近日,“+DeepSeek 智算引擎创新行”江苏省首站活动在南京成功举办,本次活动由南京江北新区产业技术研创园指导,江苏省人工智能学会、江苏鲲鹏·生态创新中心主办。江苏润和软件
    的头像 发表于 03-08 09:39 ?803次阅读

    漫话之《一体机请就位》

    为什么是DeepSeek部署「最优解」?
    的头像 发表于 03-07 00:12 ?1632次阅读
    漫话<b class='flag-5'>昇</b><b class='flag-5'>腾</b>之《一体机请就位》

    推理服务器+DeepSeek大模型 技术培训在图为科技成功举办

    与DeepSeek大模型的全面融合应用即将迈入实质性落地的新阶段。 加持DeepSeek大模型私有化部署 华为讲师李文童提到,DeepSeek大模型的问世显著降低了大模型的落地门槛,它以卓越的性能和广泛的应用前景而备受业界瞩
    的头像 发表于 02-26 17:38 ?644次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>推理服务器+DeepSeek大模型 技术培训在图为科技成功举办

    迅龙软件出席华为APN伙伴大会,获APN钻石伙伴授牌及两项大奖

    2025年2月15日,华为APN伙伴大会在深圳顺利举办。本次大会汇聚来自能源、交通、制造、教育等各行各业的APN合作伙伴,共同探讨APN产业生态的新机遇与发展路径,分享
    的头像 发表于 02-17 17:04 ?1107次阅读
    迅龙软件出席华为<b class='flag-5'>昇</b><b class='flag-5'>腾</b>APN伙伴大会,获<b class='flag-5'>昇</b><b class='flag-5'>腾</b>APN钻石伙伴授牌及两项大奖

    谷东科技民航维修智能决策大模型荣获华为技术认证

    经过华为专业评测,谷东科技民航维修智能决策大模型1.0成功与华为Atlas 800T A2训练服务器完成并通过了相互兼容性测试认证,正式荣获华为技术认证,被授予Ascend Compatible认证证书及认证徽标的使用权,成
    的头像 发表于 09-30 15:22 ?899次阅读

    研华发布高性能工业边缘 AI 算力方案 携手引领边缘 AI 革新

    上海2024年9月25日 /美通社/ -- 全球工业物联网厂商研华公司(股票代号:2395.TW)今日在中国工业博览会现场隆重举办 "研华×边缘 AI 战略合作暨新品发布会",携手
    的头像 发表于 09-26 10:54 ?681次阅读
    研华发布高<b class='flag-5'>性能</b>工业边缘 AI 算力方案 携手<b class='flag-5'>昇</b><b class='flag-5'>腾</b>引领边缘 AI 革新

    思原生,助力智谱打造自主创新大模型体系!

    自从全面启动原生开发,越来越多的生态伙伴选择,大模型生态从“应用迁移”走向“原生开发”,充分依托
    的头像 发表于 08-20 18:29 ?817次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>腾</b>与<b class='flag-5'>昇</b>思原生,助力智谱打造自主创新大模型体系!