0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

字节跳动今年已经为AI购买了超10亿美元的GPU

半导体产业纵横 ? 来源:半导体产业纵横 ? 2023-06-20 15:03 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

中国大型互联网公司对英伟达的依赖度正在全方位增加。

中国科技巨头字节跳动(TikTok)、腾讯、百度和阿里巴巴无法获得足够的英伟达高性能计算(HPC)芯片。据中国媒体报道,进入2023年以来,仅TikTok的创造者字节跳动就已经赶上了(以纯美元计算)整个中国市场在2022年从英伟达订购的产品。

到目前为止,字节跳动已经在2023年订购了价值10亿美元的英伟达GPU,数量大约为100000个,分别为A100(在美国政府告诉英伟达停止向中国大陆销售其性能最佳的 HPC 卡之前订购,早在 2022 年8月就开始了)和 H800 卡,后一个型号产品对应于英伟达为遵守出口限制而构建的基于 Hopper 的定制加速器,是H100的降级版本。无论如何,英伟达制定的平均销售价格(ASP)都不低于10000美元。

英伟达在出口限制首次实施时发出了一些声音,称它将损失大约400亿美元,这种损失可能会损害其H100芯片的开发。不过,我们永远不会知道H100加速器的开发是否会真正完成,因为美国政府将出口禁令推迟到了今年9月,允许英伟达出货更多的H100芯片。

考虑到其它中国科技巨头也大幅增加了对HPC硬件的投资,这种观点确实令人震惊。如果仅字节跳动就已经让英伟达在中国大陆的销售额黯然失色了整整一年,那么中国市场还能说些什么呢?据中国行业消息人士称,中国科技巨头的数量和产品需求太多,中国自己的分销商供应链已经无法处理,这就解释了为什么至少字节跳动和阿里巴巴被报道直接与英伟达谈判购买产品。

投资的增加是显而易见的,这也是其动机的一部分。中国不能让西方在人工智能领域完全占据主导地位,中国的兴趣不仅受到人工智能可以为世界经济带来的4.4万亿美元的承诺的提振(这是根据麦肯锡的说法)。中国的控制机构需要不断向其提供一系列高科技解决方案。我们可能会在生成式人工智能和大型语言模型的混战中忘记它们,但人工智能也为闭路电视分析和面部识别技术等提供动力(就像通过英伟达的FaceDetect技术提供的那样)。

这一点也很有趣,由于英伟达的H800显卡在今年3月才开始量产,因此英伟达交付的显卡比例还不大,预计H800的交付实际上将持续一整年。目前还不清楚前文报道中的10亿美元数字是指已经交付或仅订购的产品。当然,字节跳动去年确实花了30亿美元从投资者那里回购股票。有了这么多钱,多出一两亿又算什么?

英伟达GPU价格上涨40%,库存短缺预计将持续到12月

由于人工智能的繁荣,英伟达的A100和H100 GPU现在非常火爆,该公司可能无法跟上需求。

英伟达的GPU业务繁荣这是无数年来押注人工智能作为下一件大事的结果。借助ChatGPT和其他生成AI模型,看起来英伟达的赌注已经得到了回报,该公司正在获得来自科技行业各个角落的订单,以获得其全新的GPU,包括A100和H100。

多个报告现在暗示,尽管英伟达尽了最大努力,但可能无法跟上庞大的AI芯片需求。DigiTimes最近的一份报告表明,随着英伟达看到其最新GPU的订单增加,该公司已开始增加台积电芯片的产量。

据市场消息人士称,英伟达的A100和H100 AI GPU订单有所增加,导致台积电的晶圆开工增加。

ChatGPT带来的AI热潮导致对高计算GPU的需求飙升。再加上美国禁止向中国大陆销售AI芯片,百度等中国大公司正在收购英伟达的AI GPU。

A100采用台积电7nm工艺节点,而去年4月开始出货的H100则基于台积电5nm工艺节点。自推出以来,该公司已经看到了对其H100和DGX H100 GPU服务器的巨大需求。尽管英伟达试图跟上需求,但最近的人工智能热潮对该公司跟上需求的努力造成了巨大影响。

在中国大陆,该公司提供其A100和H100 GPU的修改版本,以绕过美国的制裁,称为A800和H800,这些芯片的价格比原来的建议零售价高出40%。中国目前对这些AI GPU的需求如此之大,即使是2018年推出的V100,也是第一款采用张量核心架构的GPU,售价也在10000美元或69000元人民币左右。A800的售价约为252000元人民币或36500美元。

交货周期也有据说受到影响,因为英伟达希望首先迎合其非中国技术合作伙伴。因此,英伟达GPU在中国大陆的交付时间增加到3个月,在某些情况下甚至更长。据悉,部分新订单可能要到6月才能完成,要等到今年12月。

英伟达希望为AI分配更多资源,并正在夜以继日地工作,以确保它仍然可以提供可观的供应芯片给其最大的合作伙伴。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    460

    文章

    52625

    浏览量

    442846
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4969

    浏览量

    131738
  • 字节跳动
    +关注

    关注

    0

    文章

    347

    浏览量

    9544

原文标题:字节跳动今年已经为AI购买了超10亿美元的GPU

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    字节跳动否认赵明加盟及自研手机传闻

    近日,市场传出荣耀前CEO赵明即将加盟字节跳动,并可能主导其手机业务的消息。与此同时,还有传闻称字节跳动有意推出主打AI概念的手机产品,这一
    的头像 发表于 02-10 09:12 ?610次阅读

    字节跳动否认120亿美元投资AI基础设施传闻

    近日,有市场传闻称字节跳动计划在今年对人工智能基础设施进行大规模投资,总额超过120亿美元。这一消息引发了广泛关注,因为如此巨额的投资将显示
    的头像 发表于 01-24 10:14 ?706次阅读

    快讯:字节跳动否认120亿美元投资AI

    对于传闻中的字节跳动计划2025年在人工智能基础设施上投入超120亿美元的消息,字节跳动回应称消
    的头像 发表于 01-23 15:45 ?576次阅读

    字节跳动豆包大模型1.5 Pro发布

    近日,字节跳动旗下的豆包大模型迎来了全新的升级——豆包大模型1.5 Pro正式发布。这款全新模型在知识、代码、推理、中文等多个测评基准上表现出色,综合得分优于GPT-4o、Claude 3.5 Sonnet等业界知名模型,标志着字节
    的头像 发表于 01-23 15:24 ?712次阅读

    字节跳动2025年AI基础设施投入超120亿美元

    据报道,字节跳动计划在2025年对人工智能基础设施进行大规模投资,总金额预计将超过120亿美元。这一战略决策显示出字节
    的头像 发表于 01-22 15:37 ?731次阅读

    字节跳动与努比亚合作开发AI手机

    近日,有消息称字节跳动已经选择努比亚作为其合作伙伴,共同开发AI手机。据悉,双方已经签订了框架协议,明确了合作的具体内容和时间表。 根据协议
    的头像 发表于 01-03 14:48 ?1182次阅读

    芯片赋能字节跳动AI智能体耳机Ola Friend

    AI是当下最火热的话题,机构预测也是人类历史最大的科技革命。在AI大模型方面,ChatGPT以2.58亿月活稳居全球榜首,中国AI企业产品——字节
    的头像 发表于 12-31 11:33 ?1366次阅读
    艾<b class='flag-5'>为</b>芯片赋能<b class='flag-5'>字节</b><b class='flag-5'>跳动</b><b class='flag-5'>AI</b>智能体耳机Ola Friend

    苹果探讨与腾讯、字节跳动终端AI合作

    近日,苹果公司正积极寻求与中国两大互联网企业——腾讯和字节跳动建立合作伙伴关系,以深化其在中国市场的本地化服务。据路透社最新报道,苹果计划将这一合作聚焦于中国市场定制化的iPhone设备集成
    的头像 发表于 12-20 10:17 ?621次阅读

    字节跳动否认与中兴通讯合作传闻

    大模型已经与多个手机品牌建立了合作关系,但并未涉及与中兴通讯在智能手机领域的合作。同时,字节跳动还强调,目前并不存在与中兴通讯关于芯片合作的具体计划。这一澄清使得市场上对于两家企业可能联手进入智能手机市场的
    的头像 发表于 12-18 10:08 ?1149次阅读

    字节跳动估值跃升至3000亿美元

    TikTok的母公司字节跳动近期发布了一项回购要约,其自我估值已达到约3000亿美元,这一数字接近其历史最高估值,并预示着未来估值的进一步增长。
    的头像 发表于 11-19 16:41 ?927次阅读

    字节跳动自研视频生成模型Seaweed开放

    近日,字节跳动旗下的AI内容平台即梦AI传来新消息,宣布自研的视频生成模型Seaweed即日起正式面向平台用户开放使用。这一举措标志着字节
    的头像 发表于 11-11 14:31 ?746次阅读

    字节跳动加速欧洲市场布局,计划设立AI研发中心

    近日,字节跳动宣布了其在欧洲市场的新一轮布局计划,旨在通过设立AI研发中心,进一步拓展其在该地区的业务版图。据相关报道,字节跳动已开始积极招
    的头像 发表于 10-29 11:16 ?868次阅读

    字节跳动计划在欧洲设立AI研发中心

    字节跳动正积极布局欧洲市场,计划在该地区设立AI研发中心。据知情人士透露,字节跳动已开始在欧洲寻找LLM(Large Language Mo
    的头像 发表于 10-28 11:04 ?1053次阅读

    字节跳动否认与台积电合作AI芯片

    近日,关于字节跳动计划与台积电携手开发AI芯片的报道引发关注。对此,字节跳动迅速作出回应,明确表示该报道不实。
    的头像 发表于 09-19 16:04 ?538次阅读

    即梦AI上线,字节跳动挑战Sora等AI创作平台

    字节跳动近期动作频频,其剪映团队精心研发的“即梦AI”移动版已正式登陆苹果App Store,标志着字节AI创作领域的又一重要布局。即梦
    的头像 发表于 08-07 16:47 ?1032次阅读