0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

利用Hailo-8 TM推理芯片和插件模块扩展可行应用程序的数量

牵手一起梦 ? 来源:振工链 ? 作者:佚名 ? 2020-10-14 17:20 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Hailo-8 TM推理芯片通过消除内在因素,扩大了工业人工智能AI)应用程序的数量,可用于多种工业应用程序,包括生产,流程,跟踪和跟踪,物流,质量,机器功能以及预测性维护的优化边缘处理的服务器和云解决方案的局限性。服务器和云AI解决方案适用于广泛的应用程序,但是计算成本,网络通信速度和延迟因素对许多实时工业和流程应用程序构成了限制。Hailo-8 TM推理芯片和插件模块扩展了可行的应用程序数量。

Hailo由以色列国防军精锐技术部门的成员于2017年在以色列成立,它开发了用于边缘设备的AI处理器。该公司已获得NEC和ABB的包括战略投资在内的8,800万美元资金。该团队认为Hailo技术的定位是改变AI芯片行业,为更多应用程序带来新的计算可能性。AI处理器旨在适应各种行业和用例的智能设备,包括汽车,智能城市,零售和工业4.0。

Hailo-8是实时边缘计算如何增加以在应用程序中提供高性能和可靠性的另一个示例。工业自动化始于中央控制,随着时间的流逝,随着技术的进步使其实用化,已经慢慢往边缘计算发展。这导致可用性,可靠性和性能提高,并扩展了应用程序使用案例。

Hailo芯片是高性能工业级Edge AI处理器

Liran Bar讨论了市场上的其他产品,包括Nvidia,Intel Myriad-X和Google Edge TPU,并指出Hailo-8是唯一针对工业和汽车等低功耗和环保边缘应用而优化的芯片。Bar提供了详细的基准信息,以支持Hailo在坚固边缘应用程序中的优势。

Hailo业务开发和产品营销副总裁Liran Bar说:“ Hailo-8tm处理器通过使智能设备能够在边缘更有效地运行基于神经网络(NN)的应用程序,正在改变多个行业的视觉智能和感官知觉。” “我们的M.2和Mini PCIe高性能AI加速模块使客户能够将AI功能集成到边缘设备中,从而扩展了这些功能,从而提供了一种更加灵活和优化的解决方案,以高效地加速各种基于深度学习的应用程序,并以标准尺寸优化上市时间。”

附加模块

此外,还可以通过使用 在许多计算机(包括嵌入式工业PC)中使用的流行M.2 和mPCIe连接器标准提供的插件附加板模块来应用Hailo-8,而这些模块包括高性能的AI处理,而不会降低计算机中的其他应用程序。规格包括每秒26兆操作数(TOPS)的Hailo-8?处理器,具有3 TOPS / Watt的高功率效率,可满足工业环境要求。

这类似于早期的PC协处理器插件以实现高性能的浮点数学计算性能,而视频显示协处理器则实现了高分辨率/高性能的图形。例如,原始的 IBM PC 包含一个用于Intel 8087的插槽。浮点 协处理器(又名 FPU),对于使用PC进行计算机辅助设计 或数学密集型计算的人们来说,它是一种流行的选择 。

系统方法

Hailo设备受到Dataflow Compiler的支持,Dataflow Compiler是一个完整且可扩展的软件工具链,可与现有的深度学习开发框架无缝集成,从而可以轻松集成到现有的开发生态系统中。支持开放标准,包括TensorFlow和ONNX。

AI优化架构

Liran Bar解释了非常有趣的体系结构,因为该应用程序实质上是驱动芯片资源的动态配置以优化性能。Hailo-8芯片包含许多具有控制,内存和计算功能的处理元素集,这些元素被配置和分配为基于用户应用程序执行神经网络图的各个层。这与基于经典冯·诺依曼架构的通用计算机模型形成鲜明对比,该模型也被称为具有单个CPU,内存和控制的普林斯顿架构。

Hailo-8芯片具有许多控制,内存和计算元素集,可根据用户应用程序将其配置并分配给神经网络图的各个层,以实现高性能。

应用实例

富士康 已经在不同的生产线上部署了几种内部开发的AI解决方案,从而将报告准确性从95%提高到了99%,并将缺陷检查项目的运营成本至少降低了三分之一。创建标准化解决方案富士康将其高密度,无风扇的边缘计算机“ BOXiedge?”与Socionext的高效并行处理器“ SynQuacer?” SC2A11和Hailo-8?深度学习处理器相结合,创建了一个节能的独立AI推理节点边缘的视频分析。这款新产品能够实时在边缘处理和分析20多个流式摄像机输入提要,以进行视频分析和隐私保护,包括图像分类,检测,姿势估计和其他各种基于AI的应用程序。

巴尔说:“通过确保制造商不必在性能,成本或延迟方面进行折衷,边缘上的高效深度学习处理将迎来新一代的工业4.0。当前的解决方案通常运行在过时的处理架构上,无法跟上发展速度。满足智能工厂所需的计算需求,例如多设备自动化和连接性。Hailo-8 edge AI处理器可实时支持多个流式摄像机输入提要,从而确保视频分析的最佳性能,同时保持隐私。我们期待帮助将工业4.0引入新的数字时代。”

边缘计算趋势

Hailo-8是实时边缘计算如何增加以在应用程序中提供高性能和可靠性的另一个示例。工业自动化始于中央控制,随着技术的进步使其实用化,加班处理一直被推向边缘,从而提高了可用性,可靠性和性能,并扩展了应用程序用例。

责任编辑:gt

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19951

    浏览量

    237386
  • 芯片
    +关注

    关注

    460

    文章

    52734

    浏览量

    444019
  • 人工智能
    +关注

    关注

    1810

    文章

    49220

    浏览量

    251463
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    EASY-EAI携手Hailo,推出高性能、高算力的边缘AI硬件组合

    工智能产品,以此满足高算力场景需求。随着人工智能的不断发展,各类使用场景中,大模型对算力提出更高需求。Hailo-8作为一款边缘AI/ML处理器,可达到每秒26万亿
    的头像 发表于 07-25 15:22 ?329次阅读
    EASY-EAI携手<b class='flag-5'>Hailo</b>,推出高性能、高算力的边缘AI硬件组合

    研华科技推出紧凑型边缘AI推理系统AIR-120

    Hailo-8 AI加速器。这一强大的系统配置能够提供可扩展的性能,最多具备8个核心,AI计算能力高达26 TOPS,并且在性能、功耗效率和成本之间进行平衡,从而实现高吞吐量、低延迟的推理
    的头像 发表于 07-17 17:16 ?581次阅读

    使用英特尔? NPU 插件C++运行应用程序时出现错误:“std::Runtime_error at memory location”怎么解决?

    使用OpenVINO?工具套件版本 2024.4.0 构建C++应用程序 使用英特尔? NPU 插件运行了 C++ 应用程序 遇到的错误: Microsoft C++ exception: std::runtime_err
    发表于 06-25 08:01

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    /Meta-Llama-3.1-8B --weight-format int4 --sym --group-size 128 --ratio 1.0 INT4-llama-3.1-8B 使用 NPU 插件
    发表于 06-25 07:20

    是否可以将CYUSB3065与Hailo-15 SoC作为USB 3.0主机(而不是 Windows PC)连接?

    我想使用 Hailo-15 SoC USB3.0 接口将 OV5647 传感器通过 CYUSB3065 连接到 SoM。 是否可以将 CYUSB3065 与 Hailo-15 SoC 作为 USB
    发表于 05-16 08:10

    新品 | Module LLM Kit,离线大语言模型推理模块套装

    ●●●PART.01产品简介ModuleLLMKit是一款专注于离线AI推理与数据通信接口应用的智能模块套件,整合了ModuleLLM与Module13.2LLMMate模块,满足多场景下的离线AI
    的头像 发表于 03-28 18:49 ?479次阅读
    新品 | Module LLM Kit,离线大语言模型<b class='flag-5'>推理</b><b class='flag-5'>模块</b>套装

    树莓派 AI HAT+ !到手了!我来教你安装!

    Hailo-8L和Hailo-8神经网络推理加速器,提供13和26太赫兹/秒(TOPS)两种型号。13TOPS变体最适合处理中等工作量,性能与AIKit相似。26TOPS变种可
    的头像 发表于 03-25 09:39 ?717次阅读
    树莓派 AI HAT+ !到手了!我来教你安装!

    树莓派5 + Hailo AI加速器:工业级数值数据处理实战,打通SQLite与机器学习全链路

    SQLite数据库提取数值数据、用优化模型分析数据、将结果保存回数据库的高效数据处理流程。2.基准性能:Hailo-8L模块推理吞吐量为15万次/秒(INT8),SQL
    的头像 发表于 03-25 09:22 ?618次阅读
    树莓派5 + <b class='flag-5'>Hailo</b> AI加速器:工业级数值数据处理实战,打通SQLite与机器学习全链路

    edge浏览器识别 latex语法插件

    默认的浏览器是没有latex识别功能的,容易显示为乱码或者源码,无法正常识别。本插件需要在浏览器的扩展程序菜单下安装,能在edge下完美运行。本插件是免费
    发表于 03-17 18:03 ?1次下载

    无法调用GPU插件推理的远程张量API怎么解决?

    运行了使用 GPU 插件的远程张量 API 的推理。但是,它未能共享 OpenCL* 内存,但结果不正确。
    发表于 03-06 06:13

    在OpenVINO?中运行应用程序失败怎么解决?

    尝试在 OpenVINO? 中运行我的推理应用程序失败,并出现以下错误: RuntimeError: Check \'false\' failed at src/core/src/runtime/ov_tensor.cpp:67: Dims and format are inconsistent.
    发表于 03-05 10:29

    贸泽电子开售Raspberry Pi Hailo 8L AI套件

    近日,全球电子元器件和工业自动化产品的领先授权代理商贸泽电子(Mouser Electronics)正式宣布开售Raspberry Pi的Hailo 8L AI套件。这一创新产品的推出,标志着贸泽
    的头像 发表于 01-15 14:25 ?578次阅读

    Amazon Bedrock推出多个新模型和全新强大的推理和数据处理功能

    :Invent全球大会上,宣布推出Amazon Bedrock的多项创新功能。Amazon Bedrock是亚马逊云科技一项完全托管的服务,旨在利用高性能基础模型构建和扩展生成式人工智能(AI)应用程序。此次发布进一步彰显了亚马
    的头像 发表于 12-07 19:31 ?1125次阅读
    Amazon Bedrock推出多个新模型和全新强大的<b class='flag-5'>推理</b>和数据处理功能

    使用HIC启用外围扩展应用程序应用说明

    电子发烧友网站提供《使用HIC启用外围扩展应用程序应用说明.pdf》资料免费下载
    发表于 09-14 09:44 ?0次下载
    使用HIC启用外围<b class='flag-5'>扩展</b><b class='flag-5'>应用程序</b>应用说明

    TM4C MCU上用FreeRTOS开发通用应用程序应用说明

    电子发烧友网站提供《在TM4C MCU上用FreeRTOS开发通用应用程序应用说明.pdf》资料免费下载
    发表于 09-11 14:15 ?0次下载
    在<b class='flag-5'>TM</b>4C MCU上用FreeRTOS开发通用<b class='flag-5'>应用程序</b>应用说明