0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

什么叫端测AI

嵌入式应用研究院 ? 来源:嵌入式应用研究院 ? 2023-06-19 15:02 ? 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

什么叫端测AI?

这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方向是云·边·端协同,也就是未来各行各业,不管做啥的,与计算机行业相关的这种硬件和软件架构,它都会往这个方向去发展,所谓的云边端协同。

那么是怎么个云边端协同法呢?首先我们要知道这几个关键字的意思,云就是云计算,边就是边缘计算,端就是设备端。

设备端一般就是拿在用户手里的、放在用户桌子上的、装在用户家里面的、其实就是跟用户直接相关的这一端,我们叫端;边是边缘计算,那什么叫边缘计算,这个其实很好理解,譬如说装在你们小区里面的、装在你们公司那栋楼里面的,对于你来说,这就叫边缘计算;所以其实就是:云端指的是离你很远的设备,边缘端就是离你很近的云端,端呢就是你自己的设备,所以云边端加起来就构成了我们整个的计算机架构。

所以呢,在未来你开发硬件的时候,你开发的要么就是云端的硬件,要么就是边缘端的硬件,要么就是设备端,就所谓的端测的硬件。那么你开发软件也是一样,要么就是云端的软件,要么就是边缘端的软件,要么就是设备端的软件。那么AI也是一样,我们把AI这种技术应用在云端和边缘计算端和设备端,那么就构成了所谓的云端AI,边缘计算的AI以及设备端的AI,所以端测AI,其实指的就是设备端的AI。

那我们作为嵌入式工程师为什么需要关注端侧AI而不是云端的AI和边缘的端的AI呢?这个是有原因的,首先第一个云端的AI呢,就是类似于那种像这个“小度小度”这类东西?比如说像这个“小度”音箱,它的实现原理,其实就是你在这边说的话,它这个音箱其实是一个录音设备,把你说的话呢录下来,然后把你这段语音直接传到百度的服务器上去,所以音箱本身是不会做语音识别的,那百度的云服务器端有一个模型,就在那里做这个语言的一个处理和语言的识别,识别出来之后把结果再回传到音响,所以呢,像这种“小度”音箱的这种产品,它其实就是典型的云端智能,就是云端AI,那这种产品跟我们嵌入式有关系吗?其实关系并不大,因为一个普通的音箱跟一个“小度”音箱这种智能音箱几乎没有区别,你可以认为,因为它的AI并不在设备端,嵌入式端根本就不需要AI设备,所以说呢,云端AI跟嵌入式开发几乎没有关系,所以云端AI不该我们管。

那么边缘计算的AI跟我们有关系吗?有,因为边缘计算,还是有那么一点嵌入式开发在的,但是目前来说,边缘计算这个东西还是概念比较多,实际落地的非常少,而且边缘计算本身还在发展当中。根据目前边缘计算的最新技术发展方向,实际上将来是更像云端,而不太像设备端,也就是说边缘端其实就是一个简化的云端,你可以理解为就是一个简化的本地处理过的云端。所以呢,边缘计算一方面是当前用的很少,几乎没什么落地,另一方面来说呢,它跟云端更像,所以我们作为嵌入式工程师就没必要碰它。

那对于我们嵌入式开发者来说,AI跟我们关系最大的是什么?那就是所谓的设备端的AI,也就是我们所谓的端测AI,那端侧AI的概念就是整个的AI的过程全部是发生在设备端的。举个例子,比如说我现在做一个人脸识别,我的设备端摄像头负责拍照,拍完照之后把图像传给我设备端的CPU,然后设备端这边的硬件和软件负责调用AI做数据处理,进而来做人脸识别,最后把结果在我的设备端展示出来,进行开锁、报警等动作执行。

整个AI的过程都在设备端,根本就不会去连接云,也不会去连接边缘,这样来做有两个最大的好处,第一个好处就是速度快,不用联网就不受网络的限制,所以速度快。第二个好处就是因为不用联网所以低功耗。第三个最重要的一点就是隐私问题,不会把照片等私密数据上传云端,现场拍现场用,用完之后销毁,这样是比较安全的。所以说基于这三个原因,当然还有别的一些原因,端测AI实际上在未来的应用是很广泛的,而且端测AI本身跟嵌入式开发的关系非常大,那咱们做嵌入式开发的,就需要去关心端测AI,去搞端侧AI,去掌握这方面的技术,成为一个可以结合AI人工智能技术的更有发展的一名嵌入式软件工程师。

再额外介绍一点,目前国内外,在端侧AI方向上有所建树的企业和芯片厂商有:ST(NanoEdgeAIStudio、CubeAI)、NXP(MCU:imxRT10xx、MPU+linuximx8、imx9352)、聆思(科大讯飞的芯片公司),英伟达,谷歌以及我们熟悉的ARM,我们需要做的就是从最简单的端侧AI项目开始,尝试让自己去熟悉和去体会端侧AI相关的嵌入式项目开发,逐步寻找新技术形态和新技术方向上的更多机会,并寻求进一步发展。
责任编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 硬件
    +关注

    关注

    11

    文章

    3491

    浏览量

    67642
  • AI
    AI
    +关注

    关注

    88

    文章

    35506

    浏览量

    281390
  • 边缘计算
    +关注

    关注

    22

    文章

    3347

    浏览量

    51085
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    边缘AI应用越来越普遍,AI模型在边缘如何部署?

    电子发烧友网报道(文/李弯弯)在人工智能时代,越来越多的AI应用需要从云端扩展到边缘,比如智能耳机、智能摄像机、智能手环、物流机器人等,在边缘部署AI已经成为趋势。如今
    的头像 发表于 07-04 00:11 ?3583次阅读
    边缘<b class='flag-5'>AI</b>应用越来越普遍,<b class='flag-5'>AI</b>模型在边缘<b class='flag-5'>端</b>如何部署?

    AI浪潮已来!炬芯科技发布新一代AI音频芯片,能效比和AI算力大幅度提升

    电子发烧友原创 章鹰 ? 11月5日,在深圳会展中心7号馆内,炬芯科技董事长兼CEO周正宇博士带来了《AI芯片的未来》演讲,他对AI趋势进行精彩的分析,并且宣布炬芯科技推出第一
    的头像 发表于 11-06 09:11 ?4148次阅读
    <b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>浪潮已来!炬芯科技发布新一代<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>音频芯片,能效比和<b class='flag-5'>AI</b>算力大幅度提升

    霍尔电流传感器的原边如何接入AI大模型?

    霍尔电流传感器的原边如何接入AI大模型,以便AI分析问题解决问题?话题会不会太超前?现在正式AI风口啊,猪都要起飞了
    发表于 03-03 15:18

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    时间。 这不仅仅是工具的升级,更是迈向智能体化用户体验的关键基础设施。 天玑AI开发套件 2.0,全面释放天玑AI能力 去年,天玑AI开发套件一经发布就广受开发者好评和推荐。在MD
    发表于 04-13 19:52

    AI侧部署开发(SC171开发套件V3)

    AI侧部署开发(SC171开发套件V3) 序列 课程名称 视频课程时长 视频课程链接 课件链接 工程源码 1 Fibo AI Stack模型转化指南------Docker Desktop环境操作
    发表于 04-16 18:30

    新功能get√:AI大学移动,来了!

    `「AI大学移动」已经正式上线了!点开公众号菜单栏【AI大学】~即可在手机上观看相关AI课程视频躺着看,坐着看、等地铁的时候看,随时随地,想看就看!手机秒变移动
    发表于 07-13 10:23

    嵌入式如何与AI相结合,什么是AI~

    什么AI? 这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方向是 云·边·协同 ,也就是未来各行各业,不管做啥的,与计算机行业相关的这种硬件和软
    的头像 发表于 06-19 10:01 ?1847次阅读
    嵌入式如何与<b class='flag-5'>AI</b>相结合,什么是<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>~

    嵌入式如何与AI相结合,什么是AI~

    什么AI?这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方向是云·边·协同,也就是未来各行各业,不管做啥的,与计算机行业相关的这种硬件和软件架构
    的头像 发表于 06-21 17:28 ?4153次阅读
    嵌入式如何与<b class='flag-5'>AI</b>相结合,什么是<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>~

    什么AI计算?AI计算力是什么?

    什么AI计算?AI计算力是什么? 随着科技的不断发展,人工智能(AI)已经成为当今最热门的技术之一。而在人工智能中,AI计算是非常重要的一
    的头像 发表于 08-24 15:49 ?8370次阅读

    华为彭松:打造端到AI网络,打通全场景AI能力

    [中国,南京,2023年8月24日]第七届未来网络发展大会期间,华为公司高级副总裁、ICT战略与Marketing总裁彭松发表了主题演讲《打造端到AI网络,打通全场景AI能力》。 他表示
    的头像 发表于 08-24 20:15 ?1052次阅读
    华为彭松:打造端到<b class='flag-5'>端</b><b class='flag-5'>AI</b>网络,打通全场景<b class='flag-5'>AI</b>能力

    荣耀引领AI新时代

    在今年的MWC盛会上,荣耀宣布与高通、Meta携手,将70亿参数大模型引入侧,这一创新举措预示着AI新时代的到来。荣耀终端CEO赵明在发布会上详细介绍了荣耀魔法大模型,并通过现场演示展示了其强大的功能,包括任意门和一键成片
    的头像 发表于 03-01 10:28 ?973次阅读

    把握关键节点,美格智能持续推动AI规模化拓展

    当前,AI大模型走向侧已经是大势所趋,AI的发展将推动人工智能成为影响世界的第四次工业革命。与传统的云端大模型相比,侧大模型拥有更小
    的头像 发表于 11-26 01:00 ?576次阅读
    把握关键节点,美格智能持续推动<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>规模化拓展

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算力越来越高、侧模型能力越来越强、实时响应及隐私保护的侧应用需求增加,AI已然具备落地的条件。
    的头像 发表于 12-12 10:35 ?845次阅读

    广和通Fibocom AI Stack:加速AI部署新纪元

    近日,广和通正式推出了Fibocom AI Stack,这一创新解决方案旨在赋能千行百业的侧应用,推动AI技术的广泛商用。 Fibocom AI Stack集高性能模组、
    的头像 发表于 01-13 11:32 ?1163次阅读

    AI大模型侧部署正当时:移远端侧AI大模型解决方案,激活场景智能新范式

    AI技术飞速发展的当下,AI大模型的应用正从云端向侧加速渗透。作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻性的战略布局,在AI大模型
    的头像 发表于 03-26 19:05 ?529次阅读
    <b class='flag-5'>AI</b>大模型<b class='flag-5'>端</b>侧部署正当时:移远端侧<b class='flag-5'>AI</b>大模型解决方案,激活场景智能新范式