0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AWS与NVIDIA通过嵌入式AI简化构建应用程序

姚小熊27 ? 来源:TechWeb.com.cn ? 作者:TechWeb.com.cn ? 2020-12-25 10:26 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

人工智能改变了我们的生活和工作方式,主要的AI供应商之一是图形处理单元(GPU)市场领导者NVIDIA。开发人员使用其工具和基础架构来构建支持AI的应用程序。该公司提供的产品可简化将AI集成到服务中的过程,这些服务包括语音识别,对话式AI,数据科学,机器人技术,推理等等。

NVIDIA工具已被AI开发人员和数据科学家广泛采用,但是将这些工具的使用扩展到更广泛的受众范围将需要简化工具的访问过程。如今,开发人员需要在一个平台(例如AWS)上构建,然后直接从NVIDIA访问AI工具。

AWS与NVIDIA合作伙伴通过嵌入式AI简化构建应用程序

最近,NVIDIA与亚马逊网络服务(AWS)通过在AWS Marketplace中提供NVIDIA店面,宣布了一项合作伙伴关系,旨在简化将AI功能嵌入应用程序的过程。总计,NVIDIA将免费提供21种软件工具,以帮助使用AWS的开发人员构建GPU加速的AI应用程序。这将在医疗保健,金融,零售,智慧城市等多个领域引起广泛关注。

自2017年以来,NVIDIA一直通过其NVIDIA GPU优化云(NGC)目录以及AWS Marketplace上的一些单独组件提供了GPU加速软件。但是,这是Nvidia的整个产品组合首次进入AWS Marketplace。NGC目录将NVIDIA的GPU加速软件工具集中在一起。它包含数百个机器学习(ML)框架和行业特定的软件开发套件,数据科学家和开发人员可以使用它们来构建AI解决方案。

伙伴关系创建了“一站式商店”

NGC软件经过容器化和优化,可在GPU云实例上运行,例如Amazon EC2 P4d,该实例由NVIDIA最新的A100 Tensor Core GPU提供支持。开发人员可以通过现成的程序包获得所需的一切,因此他们可以在混合云环境中运行容器,并轻松地跨平台移动GPU加速的工作负载。

NVIDIA声称250,000名用户已经从NGC目录中下载了超过100万个AI容器,预训练的模型,应用程序框架,Helm图表和其他ML资源。一些最受欢迎的NVIDIA GPU加速AI软件工具包括:

NVIDIA AI,一套框架和工具,例如MXNet和TensorFlow

NVIDIA Clara Imaging,一个针对领域优化的应用程序框架,用于医学成像中的深度学习培训和推理。

NVIDIA DeepStream SDK,一个用于在边缘和任何云上部署的多平台视频分析框架。

NVIDIA HPC SDK,一套用于高性能计算的库和软件工具。

NVIDIA Isaac Sim ML培训,这是面向机器人ML工程师的工具包,这些机器人ML工程师生成合成图像以训练对象检测深度神经网络

NVIDIA Merlin,一个开放的beta框架,用于构建大规模的深度学习推荐系统。

NVIDIA NeMo,一个用于构建对话AI模型的开源Python工具包。

RAPIDS,一套开源数据科学软件库。

通过与AWS的合作,NVIDIA希望加快软件发现的过程。只要NGC目录中有更新,开发人员就可以一键访问NVIDIA AI软件的最新版本。开发人员的另一个好处是软件部署更加简单。开发人员将能够在AWS控制台内的NVIDIA GPU实例上订阅并开始运行NGC软件。他们还可以访问NGC Helm图表以进行持续集成和开发。

随着AI推动高性能计算的突破,高级工具对于帮助组织可视化并与海量数据集进行交互是必不可少的。像NVIDIA和AWS这样的联盟可以消除部署GPU加速软件的复杂性。现在,开发人员无需花时间搜索最新的框架和补丁,而是可以在一个地方访问所有资源来构建,培训和部署AI应用。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5348

    浏览量

    106850
  • AI
    AI
    +关注

    关注

    88

    文章

    35760

    浏览量

    282497
  • AWS
    AWS
    +关注

    关注

    0

    文章

    438

    浏览量

    25432
  • 嵌入式AI
    +关注

    关注

    0

    文章

    36

    浏览量

    1210
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    嵌入式工程师为什么要学QT?

    Qt对嵌入式工程师来说,真的很重要吗? Qt是一个跨平台的C++应用程序开发框架,非常适合嵌入式系统的开发,Qt在嵌入式开发中具有很重要的作用。 在项目实践中可以看出,Qt在工业自动化
    发表于 08-14 15:15

    Linux嵌入式和单片机嵌入式的区别?

    较高,需要较大的内存和存储空间来运行Linux系统和应用程序。 5. 可扩展性 : 单片机嵌入式 :扩展性有限,通常只能通过增加外设来扩展功能。 Linux嵌入式 :扩展性较好,可
    发表于 06-20 09:46

    运行在嵌入式系统上的emApps

    在当今快节奏的嵌入式系统世界中,灵活性和适应性是嵌入式系统实现的关键。SEGGER推出了其最新创新:Embedded apps(emApps)应用,类似于手机上的应用程序,可以运行在嵌入式
    的头像 发表于 06-18 09:53 ?363次阅读
    运行在<b class='flag-5'>嵌入式</b>系统上的emApps

    飞凌嵌入式2025嵌入式及边缘AI技术论坛圆满结束

    飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享
    的头像 发表于 04-28 13:57 ?3461次阅读
    飞凌<b class='flag-5'>嵌入式</b>2025<b class='flag-5'>嵌入式</b>及边缘<b class='flag-5'>AI</b>技术论坛圆满结束

    飞凌嵌入式「2025嵌入式及边缘AI技术论坛」议程公布

    4月22日,飞凌嵌入式“2025嵌入式及边缘AI技术论坛”将在深圳举行,论坛以“新生态,智未来”为主题,旨在汇聚行业智慧,探讨嵌入式技术与边缘AI
    的头像 发表于 04-02 15:12 ?731次阅读
    飞凌<b class='flag-5'>嵌入式</b>「2025<b class='flag-5'>嵌入式</b>及边缘<b class='flag-5'>AI</b>技术论坛」议程公布

    Evo 2 AI模型可通过NVIDIA BioNeMo平台使用

    Evo 2 是一个强大的新型 AI 模型,它基于亚马逊云科技(AWS)上的 NVIDIA DGX Cloud 构建而成,能够帮助用户深入了解不同物种的 DNA、RNA 和蛋白质。
    的头像 发表于 02-28 09:57 ?852次阅读

    使用OpenVINO GenAI API在C++中构建AI应用程序

    许多桌面应用程序是使用 C++ 开发的,而将生成AI(GenAI)功能集成到这些应用程序中可能会很具有挑战性,尤其是因为使用像 Hugging Face 这样的 Python 库的复
    的头像 发表于 10-12 09:36 ?1223次阅读
    使用OpenVINO GenAI API在C++中<b class='flag-5'>构建</b><b class='flag-5'>AI</b><b class='flag-5'>应用程序</b>

    嵌入式MXM模块(NVIDIA安培架构)

    电子发烧友网站提供《嵌入式MXM模块(NVIDIA安培架构).pdf》资料免费下载
    发表于 10-09 11:09 ?0次下载

    嵌入式系统的启动流程

    嵌入式系统的启动流程是一个复杂但有序的过程,它涉及从系统上电到操作系统内核及应用程序启动的多个阶段。
    的头像 发表于 10-05 17:44 ?1087次阅读

    嵌入式linux开发的基本步骤有哪些?

    嵌入式Linux开发是一个复杂的过程,涉及到硬件选择、操作系统移植、驱动开发、应用程序开发等多个方面。以下是嵌入式Linux开发的基本步骤,以及每个步骤的说明。 硬件选择 在开始嵌入式
    的头像 发表于 09-02 09:11 ?1347次阅读

    C28x嵌入式应用程序二进制接口

    电子发烧友网站提供《C28x嵌入式应用程序二进制接口.pdf》资料免费下载
    发表于 08-31 09:39 ?0次下载
    C28x<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>二进制接口

    MSP430嵌入式应用程序二进制接口

    电子发烧友网站提供《MSP430嵌入式应用程序二进制接口.pdf》资料免费下载
    发表于 08-30 11:43 ?0次下载
    MSP430<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>二进制接口

    C6000嵌入式应用程序二进制接口

    电子发烧友网站提供《C6000嵌入式应用程序二进制接口.pdf》资料免费下载
    发表于 08-29 14:52 ?0次下载
    C6000<b class='flag-5'>嵌入式</b><b class='flag-5'>应用程序</b>二进制接口

    AI普及给嵌入式设计人员带来新挑战

    。 ? 从监控和访问控制到智能工厂和预测性维护,基于机器学习(ML)模型构建的人工智能(AI)在工业物联网边缘处理应用中已变得无处不在。随着这种普及,支持AI的解决方案的构建已经变得“
    发表于 08-22 14:20 ?936次阅读
    <b class='flag-5'>AI</b>普及给<b class='flag-5'>嵌入式</b>设计人员带来新挑战

    嵌入式系统中的实时操作系统

    嵌入式RTOS是嵌入式应用程序运行、相互交互和与外界通信的底层软件机制。在本节中,您将了解嵌入式软件开发人员使用哪些流行RTOS以及它们运行的嵌入式
    的头像 发表于 08-20 11:28 ?964次阅读