0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

自研服务器芯片或许没有那么大优势

lPCU_elecfans ? 来源:电子发烧友网 ? 2023-04-06 10:07 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

自研芯片在当下似乎已经成了一种潮流,无论是消费电子厂商、互联网公司还是汽车厂商,都在拿自研芯片做文章。作为时刻都在与计算打交道的云端,自然也参与其中,甚至是先进工艺自研芯片的主力军。

自研芯片能省下多少钱?

早在芯片产业有布局,或者以收购来掌握芯片设计实力的云服务厂商,几乎都选择了自研服务器芯片这条路线,比如亚马逊、谷歌、阿里巴巴等等。自研芯片的范围也从网络芯片到通用计算的CPU,再到用于AI计算的ASIC芯片。

亚马逊就靠着自研芯片省下了一大笔成本,这也是其他云服务厂商目前都没能复制的成功。首先自研芯片通过架构上的创新,为其定制化实例提供了更高的性能,比如Nitro芯片靠卸载任务可以多省出两个CPU内核;其次,对于某些特定的工作负载来说,自研芯片带来了更容易把握的战略控制以及硬件锁定;最后,自然也省去了找第三方fabless设计公司的成本。

考虑到云服务厂商在硬件投入上的规模,以及亚马逊作为全球第一大云服务厂商的体量,其中省下的成本还是相当庞大的。这也是亚马逊走自研芯片可行的原因,其他云服务厂商或许能通过自研把设计成本压下去,但制造成本绝对没法像亚马逊一样压这么低,这也是为何AWS过去能做到频繁降价。

AI时代下自研芯片优势有,但不多

亚马逊在收购后,接连推出了Trainium和Inferentia这两大训练和推理加速器,并将其集成到自己的云端实例中去,以优异的性能为客户提供高性价比的AI硬件方案。但这似乎并没有为其在最近的AI热潮中带来优势,反倒是微软凭借英伟达GPU率先以ChatGPT开启了这场恶战,谷歌的Bard也紧随其后。

亚马逊则选择了与Hugging Face合作,作为其首选云供应商,用户可以借助AWS上的先进工具,比如SageMaker托管服务,以及Trainium和Inferentia硬件,去训练、微调和部署模型,从而为社区创造更加开放易用的AI。

但事实上是,这一合作激起的水花很快就被淹没在了如倾盆大雨般落地的AI应用中。而且对于Hugging Face来说,他们想要打造的是开放式的生成式AI模型,也就是说其他厂商也都能从中获益,也就是两家共同提到的机器学习民主化。

况且在部署上,早在与亚马逊合作之前,Hugging Face就已经在2022年与微软Azure达成合作,在Azure的ML终结点上部署Hugging Face的机器学习推理服务。所以这次合作即便充分利用了亚马逊的自研AI芯片,但给其带来的优势并不算大。无论是在性能还是在软件生态上,现有的自研芯片都存在如鲠在喉的地方,而这不仅局限于亚马逊这样的大厂,不少初创AI芯片公司也都或多或少面临这样的困境。

结语

其实自研芯片也并非真的毫无灵活性可言,比如亚马逊的Graviton和阿里的倚天710,虽说是自研芯片,但用到的毕竟还是Arm的Neoverse公版方案,还有不少第三方方案也是如此,比如英伟达的Grace、Ampere Computing的Altra等等。

这样一来其实开发灵活性依然很高,比如英伟达为了给Grace做铺垫,也对同类产品的软件栈提供了支持。比如英伟达的HPC SDK全面支持AWS的Graviton 3,也支持对SVE和NEON的自动矢量化。而英伟达推出的Arm HPC开发套件,也是由Ampere的Altra Q80-30 CPU与A100 GPU组合打造的,与Grace芯片共用同一套软件环境。

只不过在AI领域,这样的自研路线优势会更小一点,毕竟现在AI模型与算法发展迅速,自研GPU有着各种难以突破的专利壁垒,自研ASIC又存在迭代适应和软件生态移植的问题。而这对于云服务厂商这种为客户赋能更快产品上市速度的企业来说,或许在AI仍在快速演进的当下,GPU会是更优解,这也是云服务厂商即便选择了自研AI芯片,主打的却依然是GPU实例的原因。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    460

    文章

    52624

    浏览量

    442815
  • 加速器
    +关注

    关注

    2

    文章

    828

    浏览量

    39210
  • 服务器
    +关注

    关注

    13

    文章

    9829

    浏览量

    88245

原文标题:自研服务器芯片或许没有那么大优势

文章出处:【微信号:elecfans,微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    高端芯片服务器芯片传来好消息!

    电子发烧友网报道(文/黄晶晶)当前,处理已经跨过了能用的阶段,逐渐走向好用,但无论是消费级还是服务器级都面临着如何在性能上接近国外高端产品,以及生态上如何更加完善的问题。国内厂商
    的头像 发表于 05-18 09:25 ?6727次阅读
    高端<b class='flag-5'>芯片</b><b class='flag-5'>自</b><b class='flag-5'>研</b>,<b class='flag-5'>服务器</b><b class='flag-5'>芯片</b>传来好消息!

    RAKsmart服务器SEO优化优势分析

    在RAKsmart服务器上搭建SEO网站,可以借助其基础设施和服务特性,从技术层面优化搜索引擎排名。以下是具体优势及分析,主机推荐小编为您整理发布RAKsmart服务器SEO优化
    的头像 发表于 04-22 10:12 ?276次阅读

    利用RAKsmart服务器托管AI模型训练的优势

    AI模型训练需要强大的计算资源、高效的存储和稳定的网络支持,这对服务器的性能提出了较高要求。而RAKsmart服务器凭借其核心优势,成为托管AI模型训练的理想选择。下面,AI部落小编为您具体分享。
    的头像 发表于 03-18 10:08 ?300次阅读

    服务器对比空间有什么优势和劣势?

    服务器相比空间,优势在于提供更高管理权限、灵活可扩展的资源配置、卓越性能及更强安全性,适合有特定需求和技术背景的用户。然而,云服务器成本较高,技术门槛也相对较高,且依赖稳定互联网连接。相比之下
    的头像 发表于 02-21 10:42 ?345次阅读

    美国大带宽服务器租用有哪些优势

    美国大带宽服务器租用具有多方面的优势,以下是具体的优势分析,主机推荐小编为您整理发布美国大带宽服务器租用有哪些优势
    的头像 发表于 01-23 09:22 ?435次阅读

    进迭时空服务器芯片发布:64 位RISC-V架构、12nm

    。据介绍,V100服务器芯片采用了公司的RISC-VCPU核心X100、支持中断虚拟化的AIA和APLIC、支持内存虚拟化的IOMMU、支持安全功能的IOPMP、支
    的头像 发表于 01-09 18:04 ?1384次阅读
    进迭时空<b class='flag-5'>服务器</b><b class='flag-5'>芯片</b>发布:64 位RISC-V架构、12nm

    国外多ip服务器核心优势

    国外多IP服务器是指配备有多个独立IP地址的服务器,这些服务器通常位于国外。主机推荐小编为您整理发布国外多ip服务器核心优势,以下是对国外多
    的头像 发表于 01-08 09:55 ?461次阅读

    美国云服务器主机优势和缺点

    美国云服务器主机在全球云计算市场中占据重要地位,美国云服务器主机优势和缺点都是什么?主机推荐小编为您整理发布美国云服务器主机优势和缺点,其优
    的头像 发表于 12-02 16:31 ?520次阅读

    RAKsmart洛杉矶裸机云服务器的特性和优势

    RAKsmart是一家知名的云服务提供商,以其高质量的基础设施和优质的服务著称。特别是其位于洛杉矶的数据中心提供的裸机云服务器,凭借其卓越的性能和丰富的特性,受到了广大用户的青睐。本文将详细介绍RAKsmart洛杉矶裸机云
    的头像 发表于 11-22 09:17 ?484次阅读

    服务器主要应用行业及优势

    服务器作为一种基于云计算技术的虚拟化计算资源,正逐渐成为众多行业数字化转型的重要支撑。它不仅提供了灵活的资源配置,还带来了诸多传统物理服务器难以比拟的优势。以下是云服务器的主要应用行
    的头像 发表于 10-31 09:24 ?590次阅读

    比亚迪最快于11月实现算法量产,推进智驾芯片进程

    10月21日市场传出消息,比亚迪正计划整合其新技术院下的智能驾驶团队,目标是在今年11月实现智能驾驶算法的量产,并持续推进智能驾驶芯片
    的头像 发表于 10-22 15:57 ?1516次阅读

    美国硅谷RAKsmart服务器优势

    RAKsmart是一家总部位于美国加州硅谷的全球领先的IDC服务提供商,以其高性能、高可靠性和定制化的服务器托管及云服务闻名。以下几点概述了RAKsmart服务器的主要
    的头像 发表于 10-21 09:37 ?573次阅读

    什么是AI服务器?AI服务器优势是什么?

    AI服务器是一种专门为人工智能应用设计的服务器,它采用异构形式的硬件架构,通常搭载GPU、FPGA、ASIC等加速芯片,利用CPU与加速芯片的组合来满足高吞吐量互联的需求,为自然语言处
    的头像 发表于 09-21 11:43 ?2113次阅读

    新加坡云服务器租用的特点和优势

    新加坡云服务器租用服务为用户提供了灵活的配置选择、高性能的计算资源以及可靠的安全措施,是企业拓展东南亚市场的理想基础设施。下面将从多个方面详细介绍新加坡云服务器的特点及优势。Rak小编
    的头像 发表于 08-19 10:07 ?457次阅读

    硅谷物理服务器有哪些关键优势和特点

    硅谷的物理服务器设施全球知名,为各类企业提供了卓越的IT基础设施支持。下面将逐一探讨硅谷物理服务器的关键优势和特点,rak小编为您整理发布硅谷物理服务器有哪些关键
    的头像 发表于 08-16 13:28 ?476次阅读