0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

在AI网络边缘最小化算法足迹和训练

星星科技指导员 ? 来源:嵌入式计算设计 ? 作者:Yasser Khan ? 2022-07-10 09:07 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

数据处理当然不是一个新概念,算法也不是。然而,训练和运行算法的地方正在迅速发展。近年来,由于能够利用临时计算资源来执行这些数据密集型任务,机器学习 (ML) 算法的训练大体上已在云环境中进行。

如今,人们大力推动尽可能靠近源头处理数据。这是由于物联网IoT) 的出现以及现在正在生成大量数据的各种技术。所有这些数据都让组织争先恐后地以具有成本效益的方式充分利用它。组织需要考虑从数据源到处理位置的数据传输成本,以及存储和处理数据的成本,这通常也是在资源密集型服务器/云环境中。

人工智能AI) 技术开始出现,可以在 ESP32 和基于 Cortex M4 的微控制器单元 (MCU) 等低计算功率设备上而非更大的微处理器单元 (MPU) 上进行 ML 模型训练和执行。这允许数据保持在本地,并且仅在必要时才在云中传输已处理的数据。

通过将训练和运行 ML 模型的总体占用空间要求降至 100kb 以下,嵌入式计算中的 AI 正在进入一个新领域。例如,冒泡排序算法可能比合并排序算法更受嵌入式算法工程师的欢迎,因为前者使用了现有的内存。尽管已经存在许多算法,但正在开发新的基于 AI 的时间序列预测算法并针对嵌入式环境进行优化。通过这种新方法,AI/ML 模型在嵌入式板上进行训练。然后,这些模型用于在执行期间进行多变量统计推断。

这些新的基于 AI 的时间序列预测算法具有三个优势:

该解决方案与网络延迟无关,因为计算是在本地板上进行的,因此性能得到了提高。

由于原始信号/数据仅在本地出现,因此保证了原始数据的安全/隐私。

对于每个嵌入式板,都会训练一个新的 ML/AI 模型。这可能是这种方法的核心优势,因为在典型的工业案例中,由于环境变体、传感器的缺陷和机器变体,不可能使用单个 ML/AI 模型来覆盖一组机器的特征。使用云服务器为每个嵌入式板训练模型也不是负担得起的。

技术突破

算法在嵌入式计算中发挥着重要作用。通常,嵌入式设备执行的算法任务包括传感器数据清理/过滤、数据编码/解码和控制信号生成。由于有限的内存容量、CPU 能力和不同的架构,嵌入式计算环境中“最佳算法”的定义可能与 PC 和云服务器中的大不相同。

在过去的几年里,人工智能/机器学习算法取得了突破性的进展和非常迅速的进展。许多努力都集中在将 AI/ML 模型(这些模型在其他地方训练过)应用于嵌入式上下文。换句话说,要成功部署 AI/ML 模型,需要优化内存/CPU 使用率和算法的功耗。

人工智能正在缩小,可以运行这些高级算法。技术进步现在允许人工智能和预测性维护从基于 MPU 的设备转移到基于 MCU 的设备,占用空间小,价格显着降低。基于 MCU 的设备现在可以在网络边缘执行任务——例如预测性维护——以前只能在 MPU 上使用。这一新功能使芯片制造商、原始设备制造商 (OEM) 和智能设备制造商能够降低成本并提供差异化??的产品。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • mcu
    mcu
    +关注

    关注

    146

    文章

    18075

    浏览量

    370984
  • 嵌入式
    +关注

    关注

    5161

    文章

    19786

    浏览量

    319723
  • AI
    AI
    +关注

    关注

    88

    文章

    35760

    浏览量

    282529
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI 边缘计算网关:开启智能新时代的钥匙?—龙兴物联

    顺畅地通向云端,实现设备与云端之间高效的数据传输与交互。通过融合先进的边缘计算和人工智能技术,AI 边缘计算网关能够靠近数据源的网络
    发表于 08-09 16:40

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    模态的技术特性,DeepSeek正加速推动AI金融、政务、科研及网络智能等关键领域的深度应用。 信而泰:AI推理引擎赋能
    发表于 07-16 15:29

    树莓派5上的Gemma 2:如何打造高效的边缘AI解决方案?

    从数学基础到边缘实现,研究团队:Conecta.ai(ufrn.br)摘要1.引言2.GEMMA2:通用集成机器模型算法2.1模型架构2.2预训练2.3后
    的头像 发表于 06-20 16:57 ?961次阅读
    树莓派5上的Gemma 2:如何打造高效的<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>解决方案?

    边缘AI的优势和技术基石

    万物皆可AI(人工智能)的今天,市场上几乎每家企业都在宣称自己的业务中有了AI成分。因此,将AI接入极靠近终端客户的网络
    的头像 发表于 06-12 10:14 ?750次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>的优势和技术基石

    海思SD3403边缘计算AI数据训练概述

    AI数据训练:基于用户特定应用场景,用户采集照片或视频,通过AI数据训练工程师**(用户公司****员工)** ,进行特征标定后,将标定好的训练
    发表于 04-28 11:11

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化
    发表于 04-28 11:05

    RAKsmart智能算力架构:异构计算+低时延网络驱动企业AI训练范式升级

    AI大模型参数量突破万亿、多模态应用爆发的今天,企业AI训练正面临算力效率与成本的双重挑战。RAKsmart推出的智能算力架构,以异构计算资源池
    的头像 发表于 04-17 09:29 ?395次阅读

    华为AI WAN智算边缘推理网络中的关键优势

    WAN:智算边缘推理网络架构、实践及产业进展”的演讲,详细阐述了AI WAN智算边缘推理网络
    的头像 发表于 04-09 09:53 ?556次阅读

    适用于数据中心和AI时代的800G网络

    下降。 InfiniBand助力AI性能提升 AI工厂中,InfiniBand网络技术因其超低延迟和高带宽,成为大规模模型训练的主流
    发表于 03-25 17:35

    AI赋能边缘网关:开启智能时代的新蓝海

    中,把握技术趋势、深耕应用场景的企业将赢得先机。随着5G网络的普及和AI算法的持续优化,AI边缘网关将在更多领域展现其价值,推动产业智能
    发表于 02-15 11:41

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    介绍了大量计算并且达到检测而不是分类的最优。此框架仅需两步:(1)检测数据集上训练 one-shot超网,(2)使用 EA(evolutionary algorithm,进化算法算法
    发表于 12-19 14:33

    AI模型部署边缘设备的奇妙之旅:如何实现手写数字识别

    。 校准(可选):为了最小化量化误差,可以通过少量数据集进行校准,调整量化参数。 这种方法的优点是不需要重新训练模型,但可能导致一定程度的精度损失。 (2)量化感知训练 量化感知训练
    发表于 12-06 17:20

    为什么最小化光纤电缆中的DB损耗很重要

    现代通信系统中,光纤电缆因其高速、高带宽和抗干扰能力强等优势,已成为数据传输的主要媒介。然而,光纤电缆传输光信号时,由于多种因素会导致信号的衰减,这种衰减通常用分贝(dB)来表示,即DB损耗。最小化光纤电缆中的DB损耗对于确
    的头像 发表于 11-28 10:18 ?733次阅读

    边缘计算AI算法盒子停放充电区域AI智慧监控的应用

    随着新能源汽车的普及,停放充电区域的安全与效率问题日益凸显。边缘计算盒子(AI算法盒子)的引入,为这一领域带来了革命性的智慧监控解决方案,极大地提升了停放充电区域的管理水平。边缘计算盒
    的头像 发表于 08-27 15:00 ?837次阅读
    <b class='flag-5'>边缘</b>计算<b class='flag-5'>AI</b><b class='flag-5'>算法</b>盒子<b class='flag-5'>在</b>停放充电区域<b class='flag-5'>AI</b>智慧监控的应用

    最小化启动期间的输出纹波

    电子发烧友网站提供《最小化启动期间的输出纹波.pdf》资料免费下载
    发表于 08-26 11:44 ?0次下载
    <b class='flag-5'>最小化</b>启动期间的输出纹波