详解NPU如何实现边缘端本地AI/ML应用

［导读］“新的i.MX系列应用处理器的进步是增加了EdgeLock来增强Secure，通过Energy Flex来增强能效比；增加Arm的NPU增加本地的算力；Azure增加云端能力。”

近年来在边缘端的算力需求的提升是一个趋势， 所以MCU厂商的新品的主频都已经向上到了GHz级别，用上了多核的架构；而应用处理器厂商也向下探，推出更易用的跨界应用处理器，例如NXP的i.MX RT系列。现在新的趋势是将人工智能（AI）和机器学习（ML）的细分应用下沉到边缘端，实现更加智能的边缘端应用。这种AI和ML在边缘端的部署，对于处理器的性能、功耗、连接性和安全性都提出了更高的要求。为了响应这些新的设计需求，NXP宣布其EdgeVerse?产品系列新增了跨界应用处理器，包括i.MX 8ULP、经Microsoft Azure Sphere认证的i.MX 8ULP-CS（云安全）系列和新一代高性能智能应用处理器i.MX 9系列。在i.MX应用处理器媒体沟通会上，恩智浦大中华区工业与物联网市场高级总监金宇杰，恩智浦边缘处理事业部软件研发总监翁铁成和恩智浦边缘处理事业部系统工程总监王朋朋进行了精彩的分享。

实现安全和能效提升：EdgeLock和ENERGY FLEX

在最新的i.MX 8ULP、i.MX 8ULP-CS和i.MX 9系列跨界应用处理器中，我们可以看到EdgeLock?安全区域和ENERGY FLEX架构的出现。从名称上我们就可以看出，EdgeLock?安全区域主要是确保边缘设备的安全性，而Energy Flex架构提供了多种不同的功耗管理模式。

据翁铁成先生介绍，安全正是NXP非常重要的标志技术之一，EdgeLock涵盖了密钥管理、信任根处理、各种丰富的加解密处理，设备范围的安全智能也包含其中。安全策略启动和信任根方面是使用了EdgeLock2Go的技术，该技术的信任根包含在EdgeLock里面，可以通过信任根与EdgeLock的云服务做交互，保证其实现安全的认证。例如NXP可以将AZURE SPHERE的信任根结合到Edge Lock中，这样开发者也可以享用到AZURE SPHERE提供的安全的云服务。

针对异构的i.MX应用处理器，NXP还提供了全新的Energy Flex技术。Cortex-A35的核本身就具备高效和节能的特点， Cortex-M33作为实时处理的核也具备低功耗的特质。再将GPU、DSP加入处理器内，基于Energy Flex技术可以将一个应用处理器配置出大约20多种不同的能耗配置，针对不同的工作负载提供更为细致的功耗配置和响应，从而降低最终应用的整体功耗。

在domain间进行不同工作负载的转换时，其实也会存在受到旁路攻击的风险，而EdgeLock也具备一个独特的“功率感知”的能力，可以智能地跟踪功率转换，采取一些干扰措施来增强抵抗和阻止新兴的攻击面。

通过NPU实现边缘端本地AI/ML应用

对于做嵌入式开发、进行边缘端设计的工程师而言，学习完整的AI和ML的算法和应用，然后进行实际的本地应用部署，这是一件非常费时费力的事情。这也是当前嵌入式工程师在进行边缘端的AI/ML应用开发时面临的难题。而NXP也积极地通过战略投资、生态合作的一系列举措来推动边缘人工智能的新浪潮，从而在一系列嵌入式设备中构建经济高效的人工智能解决方案。

据金宇杰先生分享，NXP的应用处理器是希望帮助普通的公司和开发者也可以进入到自己所需的细分AI领域，实现轻松的边缘AI构建。多个细分的模型算法在云端都已经慢慢成熟，所以在i.MX平台就像一个转换器一样方便，直接从边缘端拿到数据进行本地的处理就可以，这个概念叫做BYOD（Bring Your Own Data）。

在硬件层面，NXP通过将Arm Ethos-U65在应用处理器中嵌入，积极推进microNPU的概念。microNPU可以达到0.5TOPS的算力，恰好是为了补充i.MX 9的512GOPS和i.MX 8M Plus上2.5 TOPS之间的这个空白，所以整个的产品的布局出来之后，不同的AI算力需求的智能边缘端都可以找到合适的能耗比的硬件平台。在软件层面，NXP 发布了eIQ机器学习（ML）软件对Glow神经网络（NN）编译器的支持功能，针对恩智浦的i.MX RT跨界MCU，带来业界首个实现以较低存储器占用提供更高性能的神经网络编译器应用。

所以i.MX这样整体的一个硬件和软件的平台出来后，对于传统的嵌入式开发的设计者而言 ，可以快速实现边缘端AI/ML的部署，将自己的想法借助AI/ML的力量落地。

以前，嵌入式MCU开发者的一个较为集中的痛点是需要应用处理器的高性能，但难以适应应用处理器的架构的变化、学习成本较高。NXP用i.MX RT系列跨界应用处理器很好的解决了这个痛点，市场也通过订单给予了NXP积极的肯定。现在，AI/ML的细分应用在边缘端部署将会是另一个集中的痛点，能够帮助设计者解决这一痛点的平台，想必也会赢得开发者的青睐，获得更多市场份额。
编辑：lyn