0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌TPU v5p超越Nvidia H100,成为人工智能领域的竞争对手

微云疏影 ? 来源:综合整理 ? 作者:综合整理 ? 2023-12-26 15:20 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

谷歌凭借新版TPU v5p成功挑战Nvidia——这款搭载超级计算机的顶级人工智芯片,拥有更高速度、大容量内存及带宽,显著优于Nvidia的H100。

谷歌借其最先进的Gemini人工智能模型,全新推出人工智能训练及推理专用的张量处理单元(TPU)最新版本,显然有意向Nvidia霸主地位的GPU发起冲击。

TPU v5p已在谷歌“AI超级计算机”项目中发挥重要作用,这并非专业科研型超算平台,而是面向各类人工智能应用。与Nvidia开放GPU购买策略不同,谷歌高端TPU主要供自家产品和服务运用。

新架构版TPU每个模块有8960颗芯片,较之上代v4的4096有所提升,且每块架构内的总浮点运算次数(FLOPs)增加至原来的四倍,吞吐能力达到惊人的4800Gbps。新型架构在内存及带宽方面更为出色,高达95GB的高带宽内存(HBM)远超TPU v4的32GB。

面对Nvidia异军突起的H100,究竟谁更强?值得关注的是,谷歌的TPU v5p在训练大规模语言模型上表现突出,效率提升两倍以上,相比于仓库版TPU v5e虽然在性价比上稍逊一筹,但仍使其成为当前最强版本。

比起Nvidia顶配的H100显卡——被公认为最适合AI任务专业级别的显卡之一,谷歌TPU v5p毫不畏惧。根据官方数据显示,其训练效能竟超越Nvidia同系列A100 GPU整整四倍!然而,实际对比还需通过严谨的基准测试才能最终定论。

另传闻称,谷歌TPU v4在训练效能上较A100还要提升1.2~1.7倍,此数据去年四月便已得到证实。据此估计,谷歌TPU v5p相较A100性能优势可能位于3.4~4.8倍之间,其竞争力水平相当于甚至超过Nvidia的H100,持续关注后续发展动态。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 超级计算机
    +关注

    关注

    2

    文章

    473

    浏览量

    42509
  • 人工智能
    +关注

    关注

    1809

    文章

    49164

    浏览量

    250744
  • TPU
    TPU
    +关注

    关注

    0

    文章

    154

    浏览量

    21242
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    超小型Neuton机器学习模型, 在任何系统级芯片(SoC)上解锁边缘人工智能应用.

    Neuton 是一家边缘AI 公司,致力于让机器 学习模型更易于使用。它创建的模型比竞争对手的框架小10 倍,速度也快10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍
    发表于 07-31 11:38

    GPU 维修干货 | 英伟达 GPU H100 常见故障有哪些?

    ABSTRACT摘要本文主要介绍英伟达H100常见的故障类型和问题。JAEALOT2025年55日今年,国家政府报告提出要持续推进“人工智能+”行动,大力发展
    的头像 发表于 05-05 09:03 ?1212次阅读
    GPU 维修干货 | 英伟达 GPU <b class='flag-5'>H100</b> 常见故障有哪些?

    Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用

    -Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用 Cognizant将在关键增长领域提供解决方案,包括企业级AI
    的头像 发表于 03-26 14:42 ?345次阅读
    Cognizant将与<b class='flag-5'>NVIDIA</b>合作部署神经<b class='flag-5'>人工智能</b>平台,加速企业<b class='flag-5'>人工智能</b>应用

    英伟达A100H100比较

    英伟达A100H100都是针对高性能计算和人工智能任务设计的GPU,但在性能和特性上存在显著差异。以下是对这两款GPU的比较: 1. 架构与核心规格: A100: 架构: 基于Amp
    的头像 发表于 02-10 17:05 ?5006次阅读
    英伟达A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比较

    DeepSeek对人工智能领域的启示

    本文作者是 IBM 董事长兼首席执行官 Arvind Krishna。他认为,社会各界不应止步于应用人工智能,更要成为人工智能的共建者。
    的头像 发表于 02-07 09:46 ?1185次阅读

    特朗普宣布5000亿美元人工智能投资计划

    近日,美国人工智能领域迎来重磅消息。美国总统特朗普宣布,OpenAI、软银和甲骨文三家行业巨头正携手推进一项名为 “星际之门”(Stargate)的人工智能基础设施建设计划,总投资预计高达 5000 亿美元。这一举措旨在助力美国
    的头像 发表于 02-05 17:48 ?739次阅读

    卡诺模型为人工智能领域提供了一种全新的视角

    在探索人工智能如何更深层次满足用户需求、提升用户体验的旅程中,卡诺模型(Kano Model)提供了一个极具价值的理论框架。这一模型不仅为产品开发者带来了深刻的洞察力,同时也为人工智能领域的创新提供
    的头像 发表于 12-11 10:17 ?690次阅读

    嵌入式和人工智能究竟是什么关系?

    、连接主义和深度学习等不同的阶段。目前,人工智能已经广泛应用于各种领域,如自然语言处理、计算机视觉、智能推荐等。 嵌入式系统和人工智能在许多方面都存在密切的关联性。首先,嵌入式系统可
    发表于 11-14 16:39

    英伟达H100芯片市场降温

    随着英伟达新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载H100的服务器通常以8卡的形式进行出售或出租,而在去年,这类服务器的售价普遍
    的头像 发表于 10-28 15:42 ?1770次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 在阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    农业、环保等,为人类社会的可持续发展做出贡献。 总结 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们展示了一个充满希望和机遇的未来。在这个未来中,人工智能将成为
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    5. 展望未来 最后,第一章让我对人工智能驱动的科学创新未来充满了期待。随着技术的不断进步和应用场景的拓展,AI将在更多领域发挥关键作用,从基础科学到应用科学,从理论研究到实践应用,都将迎来前所未有
    发表于 10-14 09:12

    risc-v人工智能图像处理应用前景分析

    的兼容性和可靠性,并为其在人工智能图像处理领域的应用提供更有力的保障。 综上所述,RISC-V人工智能图像处理领域具有广阔的应用前景。其开
    发表于 09-28 11:00

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    活的世界? 编辑推荐 《AI for Science:人工智能驱动科学创新》聚焦于人工智能与材料科学、生命科学、电子科学、能源科学、环境科学五大领域的交叉融合,通过深入浅出的语言和诸多实际应用案例,介绍了
    发表于 09-09 13:54

    微软将OpenAI列为竞争对手名单

    微软在其最新提交给美国证券交易委员会(SEC)的10-K文件中,正式将OpenAI列入其竞争对手名单,这一名单中还包括了亚马逊、谷歌和Meta等科技巨头。此举标志着微软对OpenAI在人工智能
    的头像 发表于 08-05 11:38 ?1013次阅读