0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊云携手AI新创企业Hugging Face,提升AI模型在定制芯片计算性能

微云疏影 ? 来源:综合整理 ? 作者:综合整理 ? 2024-05-23 14:24 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据悉,亚马逊云服务部门于5月23日宣布,与人工智能新贵Hugging Face达成合作协议,在定制化计算芯片Inferentia2上以更优惠价格运行上千种AI模型。

Hugging Face作为一家估值为45亿美元的公司现已成为了众多AI研究员和开发者分享Chatbot和相关软件的核心平台,受到亚马逊、谷歌、英伟达等巨头的青睐。

据了解,Hugging Face是开发者获取和调整诸如Meta Platforms的Llama 3等开源AI模型的首选平台。

当开发者完成对开源AI模型的调整后,往往希望能利用此模型驱动软件。因此,亚马逊和Hugging Face决定联手,通过在Inferentia2定制化亚马逊网络服务(AWS)芯片上实现这一目标。

Hugging Face的产品及增长主管Jeff Boudier表示,对于他们而言,效率至关重要——即确保尽可能多的用户能够运行模型,且以最具性价比的方式进行。

尽管英伟达在训练模型领域处于领先地位,但AWS坚信其芯片有能力以更低成本运行已训练好的模型。

AWS人工智能产品负责人Matt Wood指出,用户可能每月仅需训练一次这些模型,而实际应用中,可能需要每小时对其进行数万次推理,这正是Inferentia2的独特优势所在。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    88

    文章

    35916

    浏览量

    283110
  • 模型
    +关注

    关注

    1

    文章

    3554

    浏览量

    50778
  • 英伟达
    +关注

    关注

    22

    文章

    3982

    浏览量

    94514
  • 亚马逊
    +关注

    关注

    8

    文章

    2707

    浏览量

    85011
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    【书籍评测活动NO.64】AI芯片,从过去走向未来:《AI芯片:科技探索与AGI愿景》

    ,接下来一一解读。 算法创新 深度学习AI芯片的创新上,书中围绕大模型与Transformer算法的算力需求,提出了一系列架构与方法创新,包括存内
    发表于 07-28 13:54

    亚马逊科技2025纽约峰会发布多项AI agent创新

    七大核心服务,帮助企业大规模、安全部署与运行AI agents 亚马逊科技Marketplace新增多项产品,助力企业发现、采购并部署领先
    的头像 发表于 07-17 16:06 ?293次阅读
    <b class='flag-5'>亚马逊</b><b class='flag-5'>云</b>科技<b class='flag-5'>在</b>2025纽约峰会发布多项<b class='flag-5'>AI</b> agent创新

    Dify携手亚马逊科技加速全球企业生成式AI应用规模化落地

    简单易用的AI应用开发平台Dify通过深度集成亚马逊科技的生成式AI技术与服务,保障
    的头像 发表于 06-07 16:00 ?428次阅读

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    的端侧部署,Token产生速度提升了40%,让端侧大模型拥有更高的计算效率和推理性能,使端侧AI交互响应更及时,用户体验更贴心。 联发科还
    发表于 04-13 19:52

    适用于数据中心和AI时代的800G网络

    下降。 InfiniBand助力AI性能提升 AI工厂中,InfiniBand网络技术因其超低延迟和高带宽,成为大规模
    发表于 03-25 17:35

    FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......

    ),设计定制化的FPGA架构,以优化性能和功耗。 2.提升跨领域技能? AI知识储备:掌握深度学习算法、模型量化和优化技术,以便更好地将
    发表于 03-03 11:21

    行业集结:共同定制 RK3566 集成 AI 眼镜的前沿 AR 方案

    技术革新浪潮席卷全球的当下,一款智能视觉终端设备 —— 以 AI 眼镜为典型代表,正以革命性姿态打破物理与数字世界的藩篱,虚实交融的界面中搭建起多维度的认知通道。 而深圳市新创
    发表于 02-20 18:44

    科技获亚马逊科技生成式AI能力认证

    的应用上展现出了卓越的能力。 聚科技通过整合亚马逊科技的先进技术,从应用范围确定、模型选择、数据处理、模型调优到应用集成与部署,为
    的头像 发表于 02-19 10:33 ?591次阅读

    科技荣获亚马逊科技生成式AI能力认证

    Bedrock等技术,从应用范围、模型选择、数据处理、模型调优到应用集成与部署等方面,助力企业加速生成式AI应用落地。此外,聚科技还基于
    的头像 发表于 02-14 16:07 ?501次阅读

    科技荣获亚马逊科技生成式AI能力认证 助力企业加速生成式AI应用落地

    、数据处理、模型调优到应用集成与部署等方面,助力企业加速生成式AI应用落地。此外,聚科技还基于亚马逊
    发表于 02-14 13:41 ?197次阅读

    Hugging Face推出最小AI视觉语言模型

    Hugging Face平台于1月23日发布博文,推出了两款令人瞩目的轻量级AI模型——SmolVLM-256M-Instruct和SmolVLM-500M-Instruct。 其中
    的头像 发表于 01-24 14:15 ?1208次阅读

    LG AI Research使用亚马逊科技开发AI模型 加快癌症诊断速度

    16日 /美通社/ -- 亚马逊科技2024 re:Invent全球大会上宣布,韩国LG集团旗下人工智能研究中心LG AI Research基于全球领先的
    的头像 发表于 12-16 15:13 ?449次阅读
    LG <b class='flag-5'>AI</b> Research使用<b class='flag-5'>亚马逊</b><b class='flag-5'>云</b>科技开发<b class='flag-5'>AI</b><b class='flag-5'>模型</b> 加快癌症诊断速度

    亚马逊转向Trainium芯片,全力投入AI模型训练

    亚马逊AWS推出了两款芯片:Inferentia和Trainium。其中,Inferentia主要用于AI推理,而Trainium则专注于AI模型
    的头像 发表于 12-13 14:14 ?740次阅读

    苹果利用AWS定制AI芯片提升服务

    近日,苹果公司AWS Reinvent大会上透露,正借助亚马逊计算部门AWS的定制人工智能(AI
    的头像 发表于 12-05 14:14 ?663次阅读

    GE医疗与亚马逊科技达成战略合作,通过生成式AI加速医疗健康领域转型

    医疗服务提供商优化临床和运营流程,进而提升护理服务质量。 ? 近日,GE医疗(通用电气医疗集团)宣布与亚马逊科技达成战略合作伙伴关系,携手打造针对医疗领域
    发表于 08-29 16:38 ?453次阅读