据悉,亚马逊云服务部门于5月23日宣布,与人工智能新贵Hugging Face达成合作协议,在定制化计算芯片Inferentia2上以更优惠价格运行上千种AI模型。
Hugging Face作为一家估值为45亿美元的公司现已成为了众多AI研究员和开发者分享Chatbot和相关软件的核心平台,受到亚马逊、谷歌、英伟达等巨头的青睐。
据了解,Hugging Face是开发者获取和调整诸如Meta Platforms的Llama 3等开源AI模型的首选平台。
当开发者完成对开源AI模型的调整后,往往希望能利用此模型驱动软件。因此,亚马逊和Hugging Face决定联手,通过在Inferentia2定制化亚马逊网络服务(AWS)芯片上实现这一目标。
Hugging Face的产品及增长主管Jeff Boudier表示,对于他们而言,效率至关重要——即确保尽可能多的用户能够运行模型,且以最具性价比的方式进行。
尽管英伟达在训练模型领域处于领先地位,但AWS坚信其芯片有能力以更低成本运行已训练好的模型。
AWS人工智能产品负责人Matt Wood指出,用户可能每月仅需训练一次这些模型,而实际应用中,可能需要每小时对其进行数万次推理,这正是Inferentia2的独特优势所在。
-
AI
+关注
关注
88文章
35916浏览量
283110 -
模型
+关注
关注
1文章
3554浏览量
50778 -
英伟达
+关注
关注
22文章
3982浏览量
94514 -
亚马逊
+关注
关注
8文章
2707浏览量
85011
发布评论请先 登录
【书籍评测活动NO.64】AI芯片,从过去走向未来:《AI芯片:科技探索与AGI愿景》
亚马逊云科技在2025纽约峰会发布多项AI agent创新

Dify携手亚马逊云科技加速全球企业生成式AI应用规模化落地
首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手
FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......
行业集结:共同定制 RK3566 集成 AI 眼镜的前沿 AR 方案
聚云科技获亚马逊云科技生成式AI能力认证
聚云科技荣获亚马逊云科技生成式AI能力认证
聚云科技荣获亚马逊云科技生成式AI能力认证 助力企业加速生成式AI应用落地
Hugging Face推出最小AI视觉语言模型
LG AI Research使用亚马逊云科技开发AI模型 加快癌症诊断速度

评论