0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软件生态上超越CUDA,究竟有多难?

E4Life ? 来源:电子发烧友 ? 作者:周凯扬 ? 2024-06-20 00:09 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)近日,英伟达凭借持续上涨的股价,正式超过了微软成为全球市值最高的公司,这固然离不开GPU这一AI硬件的火热,但之所以能一举做到世界第一,也离不开软件的加持,真正将其推向神坛的,还是围绕CUDA打造的一系列软件生态。

英伟达——CUDA的绝对统治

相信对GPU有过一定了解的都知道,英伟达的最大护城河就是CUDA。CUDA在后端架构上处于绝对的统治地位,随着AI发展越快,英伟达GPU+CUDA的开发生态发展愈发壮大,甚至到了很多竞争对手望其项背的水平。CUDA自2006年推出以来,即便在AI和深度学习没有成为主流的时期,也在不断发展并行计算,为开发者提供丰富的库、工具和算法

时至今日,CUDA已经为全球开发者打造了一个庞大的社区,几乎所有的深度学习框架,包括TensorFlow、Pytorch等都对CUDA做了优化。为了尽快切入市场,绝大多数开发者都更倾向于选择CUDA作为首要计算平台。

与此同时,英伟达也在围绕着CUDA在硬件架构上做更深入的创新和升级,借助更先进的工艺和封装技术提升计算性能和效率。比如随着Volta架构中引入Tensor核心后,英伟达GPU的矩阵运算得到大幅加强,深度学习训练和推理的性能实现飞跃。两者结合之下,使得CUDA坐稳了第一的宝座。

在游戏软件领域,英伟达的DLSS可以说是市面上最先进的专有超分技术,且得益于持续的训练,每一次版本升级都能带来图形渲染领域的突破。

最后是生产力工具相关的软件生态上,英伟达在这块的优势就更加足了,过去苹果与AMD还在GPU上合作之际,不少生产力工具还是针对AMD的GPU做了不少硬件优化的。然而随着苹果走向Arm架构,英伟达慢慢在这个市场壮大起来。

无论是Adobe旗下的多媒体处理软件,还是一些独立开发商打造的软件,很多都有英伟达CUDA硬件加速的支持,甚至连英特尔的核显在一些软件支持上,都要好于AMD。正因如此,除了一些特效制作相关的工作外,工作站里的AMD GPU越来越少。

尽管谷歌、英特尔和高通科技巨头也在寻找打破CUDA垄断地位的契机,但对于软件生态而言,合作并不一定意味着共赢,最后很可能只是为市场提供更多的可选择项,但在易用性、性能等方面,仍不如没有驻足一路狂奔的CUDA。

AMD

AMD对于其GPU软件生态则持以较为开放的态度,且极其重视开源开发社区。AMD的ROCm对标的正是英伟达的CUDA,但其并没有对硬件做出限制,除了Radeon、Instinct系列的GPU外,也在扩展至其他硬件厂商的设备。这也得益于AMD没有在硬件内引入Tensor核心这样的专有硬件,但也正是因为如此,导致其ROCm在某些任务上略显逊色。

ROCm作为开源平台,也提供多种库和框架支持,也有一整套的开源工具链。正因如此,在HPC和云计算等领域,厂商其实更宁愿使用AMD的GPU,而不必要忍受英伟达的专用软件栈。但苦于英伟达先行的软件生态,他们不得不首选英伟达的GPU。

AMD即便有了ROCm,整体软件生态的成熟度依然不敌英伟达,对于HPC中部分不以商业成功为目标的项目而言,AMD已经斩获了不少份额,比如TOP500中前十的几台超算。但以整个TOP500榜单来看,英伟达依然占据主导地位。然而对于云供应商来说,短时间内依然没法摆脱英伟达的统治,因为租用这些云服务的客户们,更愿意在英伟达的CUDA平台上开发。

在驱动软件上,尤其是针对Linux的显卡驱动,AMD采取了开源和闭源两条路线,持续更新闭源驱动的同时,也允许开源社区定制化开源驱动。以基于Linux系统中AMD Radeon显卡打造的Vulkan驱动AMDVLK为例,就支持了光线追踪。然而,尽管开源驱动由于手动配置和社区贡献的原因,兼容性要更高一些,但如果追求的是更高的性能,那么闭源驱动还是更具优势。

摩尔线程

国产GPU主要分为两个方向,分别是支持图形渲染的和不支持图形渲染的,后者仍然想在AI领域内突破,前者在推进C端产品的同时,也在布局B端的一系列AI GPU产品。在国产GPU产品中,在软件生态上做得比较好的当属摩尔线程了,他们在AI和图形渲染上的软件支持都有喜人的进展。

基于MUSA这一统一架构,摩尔线程打造了MTT S80这样的桌面显卡,以及面面向服务器应用的MTT S3000等。与之配套的,是摩尔线程打造的软件开发平台,包括AI开发平台、MUSA SDK、MT Smart Media和MTVerse XR等。

而且摩尔线程打造的这套生态架构中,可以充分兼容现有软件生态,借助MUSIFY工具实现代码零成本迁移到MUSA平台。与AMD的ROCm一样,MUSA做的也是兼容CUDA的路线,而不是像ZLUDA一样重新编译二进制代码,所以并不违反英伟达的EULA条款。

从摩尔线程近来官方发布的消息看来,他们在AI上选择了逐步对大模型完成适配支持的路线。在摩尔线程的夸娥千卡智算集群上,他们已经完成了30亿到700亿参数的大模型训练和推理适配。摩尔线程的GPU在算力上对比国际大厂还是略有逊色,不过随着未来他们在IP、硬件设计上进一步突破,相信他们也能打造出高性能的AI算力底座。

在针对消费级图形显卡的驱动程序上,摩尔线程也在不断更新优化性能。以5月底发布的v260.70版本驱动为例,除了提供对OpenGL 4.0功能的支持和优化Blender 3.6 LTS体验外,也为诸多热门游戏在DirectX 11下的性能做了明显优化。尽管这类驱动更新的规模比起英伟达还有所差距,但也代表了厂商持续优化性能表现的决心。

写在最后

其实从越来越多的厂商进军GPU,越来越多的GPU厂商发力AI就可以看出,即便CUDA有着深厚的生态积累,但在日新月异的AI中,其他厂商仍有分一杯羹的机会,甚至可能在某个应用中后来者居上。但在图形渲染相关的软件生态上,厂商面临的技术壁垒更加厚。不仅要带着钻研十数年的决心,还要持续打磨硬件产品,与产业软件生态圈合作,挖掘和培养更多的图形研究人才。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4981

    浏览量

    132136
  • CUDA
    +关注

    关注

    0

    文章

    124

    浏览量

    14180
  • 英伟达
    +关注

    关注

    22

    文章

    3973

    浏览量

    94401
  • 软件生态系统

    关注

    0

    文章

    7

    浏览量

    7177
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    RV生态又一里程碑:英伟达官宣CUDA将兼容RISC-V架构!

    电子发烧友网报道(文/梁浩斌)英伟达生态护城河CUDA,从最初支持x86、Power?CPU架构,到2019年宣布支持Arm?CPU,不断拓展在数据中心的应用生态。 在2019年至今的六年
    的头像 发表于 07-19 00:04 ?5524次阅读
    RV<b class='flag-5'>生态</b>又一里程碑:英伟达官宣<b class='flag-5'>CUDA</b>将兼容RISC-V架构!

    润和软件成为南京人工智能生态街区首批联盟成员

    近日,“AI·镜界——南京人工智能生态街区”发布活动在南京市雨花台区盛大举办,旨在打造AI与软件产业深度融合先行区、垂类应用创新示范区和数智跃迁新引擎。作为面向行业的专业数智科技服务商,江苏润和软件
    的头像 发表于 08-07 17:58 ?620次阅读

    Microsoft AD究竟有多重要

    勒索软件攻防已成一场永无止境的猫鼠游戏——在IT和安全团队不断提升能力的同时,攻击者也在不断寻找新的攻击路径,而AD作为集中管理的核心要素,已成为勒索软件攻击的主要目标和执行路径。
    的头像 发表于 07-22 13:57 ?314次阅读

    FOC电机控制究竟该如何学?

    学习FOC电机控制究竟是学哪些内容? 电机知识 软件知识 纯分享贴,有需要可以直接下载附件获取完整资料! (如果内容有帮助可以关注、点赞、评论支持一下哦~)
    发表于 05-09 14:09

    福禄克ST20MAX红外测温仪究竟有多好用

    “精准测量、智能预约、坚固耐用、贴心设计…” 小福带着首批ST20MAX客户试用心得来啦!ST20MAX 究竟有多好用?让我们一探究竟
    的头像 发表于 04-10 13:55 ?413次阅读

    使用NVIDIA CUDA-X库加速科学和工程发展

    NVIDIA GTC 全球 AI 大会上宣布,开发者现在可以通过 CUDA-X 与新一代超级芯片架构的协同,实现 CPU 和 GPU 资源间深度自动化整合与调度,相较于传统加速计算架构,该技术可使计算工程工具运行速度提升至原来的 11 倍,计算规模增加至 5 倍。
    的头像 发表于 03-25 15:11 ?805次阅读

    串口服务器究竟有何用途?看完这个你就恍然大悟了!

    在当今数字化快速发展的时代,串口服务器作为一种重要的网络设备,正悄然在各个领域发挥着关键作用。今天,我们就来深入了解一下串口服务器究竟有何用途。 工业自动化领域:保障生产高效稳定运行 在工业生产
    的头像 发表于 03-25 12:43 ?353次阅读

    润和软件荣获华为“生态星火燎原奖”

    近日,以“同行致远,聚势江来”为主题的华为江苏合作伙伴大会在南京成功举办。江苏润和软件股份有限公司(以下简称“润和软件”)作为华为生态体系的重要伙伴受邀参会,并凭借在生态共建、技术赋能
    的头像 发表于 03-24 11:48 ?579次阅读

    开放原子大赛推动汽车软件生态繁荣

    基金会联合重庆市经济和信息化委员会共同举办的“第二届开放原子大赛——汽车软件开源赛”应运而生。大赛通过开源模式,推动汽车软件生态的繁荣,加快技术创新步伐,为中国汽车产业的转型升级注入强大动力。
    的头像 发表于 03-07 09:29 ?596次阅读

    润和软件斩获昇腾与鲲鹏生态多项大奖

    近日,江苏润和软件股份有限公司(以下简称“润和软件”)受邀参加2024人工智能高质量发展大会。润和软件凭借强大的研发能力与技术创新,在智算与超算技术生态领域取得重要突破。在昇腾AI创新
    的头像 发表于 12-06 15:46 ?1072次阅读

    OpenHarmony人才生态大会南向生态社区发展论坛在武汉圆满举办

    应用市场,表盘工具等关键要素,未来将解决应用与表盘生态问题并举办开发者大赛;大屏领域正在构建社区大屏软件版本,已完成基本功能开发,目前与康佳、KTC、创维、九联开鸿、鸿合等整机厂家以及风行、爱奇艺等
    发表于 11-29 09:54

    有没有大佬知道NI vision 有没有办法通过gpu和cuda来加速图像处理

    有没有大佬知道NI vision 有没有办法通过gpu和cuda来加速图像处理
    发表于 10-20 09:14

    怎么在TMDSEVM6678: 6678自带的FFT接口和CUDA提供CUFFT函数库选择?

    请教一下gpgpu上包括4个Riscv cpu和一个DPU, 没有6678,要替换原来信号处理用的6678,该怎么在6678自带的FFT接口和CUDA提供CUFFT函数库选择?
    发表于 09-27 07:20

    迅龙软件出席2024开放原子开源生态大会,共谋开源生态繁荣之路

    2024开放原子开源生态大会于9月25至27日在北京亦庄开幕。大会将以“开源赋能产业,生态共筑未来”为主题,汇聚政、产、学、研、用、金等各领域顶尖开源力量,共同探讨行业趋势,聆听行业巨擘见解,洞悉
    的头像 发表于 09-26 13:51 ?801次阅读
    迅龙<b class='flag-5'>软件</b>出席2024开放原子开源<b class='flag-5'>生态</b>大会,共谋开源<b class='flag-5'>生态</b>繁荣之路

    芯片元器件的储存寿命究竟有多长呢?

    元器件
    芯广场
    发布于 :2024年09月05日 18:13:16