Nordic 收购 Neuton.AI # Neuton ML 模型解锁 SoC 边缘人工智能

超低功耗无线物联网连接领域的全球领先企业 Nordic Semiconductor今日宣布收购边缘设备全自动 TinyML 解决方案先驱 Neuton.AI 的知识产权和核心技术资产。此次收购将 Nordic 业界领先的 nRF54L 系列超低功耗无线 SoC 与 Neuton 革命性的神经网络框架相结合，开启边缘机器学习的新纪元，即使是资源受限的设备也能拥有可扩展的高性能人工智能 (AI)。

Nordic Semiconductor 首席执行官兼总裁 Vegard Wollan 表示：“这是嵌入式计算能力和效率的重大发展。通过将 Nordic 在低功耗无线领域的领先地位与 Neuton.AI 先进的 TinyML 平台相结合，我们使得开发者能够构建出一类全新的始终在线、人工智能驱动的设备，具备更快速度、更小体积和更高能效。”

智能可扩展性与易用性实现飞跃

Neuton.AI 的技术突破在于其全自动平台，该平台创建的机器学习模型通常小于 5 KB，比其他方法小 10 倍，速度也更快。这些模型极其易用，无需手动调优或数据科学专业知识，并可在 8 位、16 位和 32 位 MCU 上快速部署。

Neuton.AI 通过其无需预定义架构即可自动构建超小型模型的创新神经网络框架，为消费、医疗保健和工业市场的边缘应用提供准确、节能且快速的人工智能，同时节省各种宝贵的设备和系统资源，例如电源和代码内存。

低功耗与计算智能的结合

Nordic Semiconductor 短距离无线技术执行副总裁 Oyvind Strom 表示：“我们很荣幸能够将 Neuton 先进的机器学习技术与 Nordic 超低功耗 nRF54L 系列的卓越性能完美结合，重新定义超高效机器学习应用的可能性。双方携手合作，将帮助开发者构建更智能、超低功耗的设备，在边缘实现真正的机器学习，这不仅适用于 nRF54L 系列，也适用于 Nordic 所有无线连接 SoC 产品组合。嵌入式人工智能将比以往更唾手可得和易于扩展。Neuton 先进的机器学习技术为下一代边缘人工智能设备提供了轻松集成和值得信赖的智能。”

实现边缘人工智能的未来

此次收购正值边缘节点智能需求加速增长之际。预计到 2030 年，TinyML 芯片组出货量将达到 59 亿美元*。Nordic 准备抓住这一机遇，为开发者提供强大且可扩展的人工智能/机器学习(https://www.21ic.com/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0)工具包，用于预测性维护、智能健康监测、流程自动化、手势识别、下一代消费级可穿戴设备和物联网(https://www.21ic.com/tags/%E7%89%A9%E8%81%94%E7%BD%91)设备等应用。

融合与展望

此次收购涵盖 Neuton.AI 的所有知识产权和部分资产，以及其以绩效为导向、由13位高技能工程师和数据科学家组成的团队。Neuton.AI 品牌和平台将在初始整合阶段继续运营，确保继续为现有用户和合作伙伴提供不间断的服务。

Neuton 是一家边缘 AI 公司，致力于使机器学习模型更易于访问。它创建的模型比竞争对手的框架小 10 倍，速度也快 10 倍，甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中，我们将介绍这对开发人员意味着什么，以及使用 Neuton 模型如何改进您的开发和终端应用。

为什么选择 Neuton

作为开发人员，在产品中使用边缘人工智能的两个最大障碍是：

1. ML 模型对于您所选微控制器的内存来说太大。
2. 创建自定义 ML 模型本质上是一个手动过程，需要高度的数据科学知识才能做好。

现在，这些阻碍即将被解决。

Neuton 是一个自动生成 ML 模型的框架，其大小仅为 TensorFlow Lite 等传统框架的一小部分。对于开发人员来说，这意味着要训练一个高度优化、快速和准确的 ML 模型，你所需要的只是一个数据集。Neuton 模型可以在任何 Nordic SoC（如我们的旗舰产品 nRF54L15）上运行，而且非常高效，也非常适合空间最有限的 SoC（如 nRF52805），只占用几千字节的非易失性存储器（NVM）。这使得以前被认为不可能的应用也能增加 ML 功能。例如，您现在可以在广泛的传感器网络的每个节点上进行人工智能处理，而在这种网络中，传感器的尺寸和成本是关键，空间也非常宝贵。

Neuton 的与众不同

其他边缘人工智能框架比比皆是，而且存在已久。Neuton 与 LiteRT（又称微控制器 TensorFlow Lite）和类似框架的主要区别在于，其他框架仍然依赖于开发人员掌握如何手动组织神经网络、神经元和网络深度的知识，然后在事后对模型进行压缩和优化，使其适合所需的目标设备。这种方法导致模型在代码大小、执行速度和功耗方面效率较低。

而 Neuton 可以自动处理所有这些问题。Neuton 不会从一开始就静态定义网络参数，而是自动生成网络，并检查每一个新神经元是否能提高模型性能。不增加价值的神经元会被立即移除，以节省资源。这为开发者带来了多重好处：

1. 无需手动选择神经网络结构、参数或架构
2. 无需资源密集型的自动神经架构搜索 (NAS)
3. 代码体积尽可能小，无需压缩或优化
4. 执行速度更快，这意味着功耗更低

Neuton 模型以纯 C 代码形式从平台下载，没有外部依赖性或特殊运行要求。它们可随时集成到在任何 Arm Cortex-M 系列处理器上运行的任何应用中，如 nRF52、nRF53、nRF54L 和 nRF54H 系列 SoC 或 nRF91 系列 SiP 的应用内核。

这对开发人员意味着什么

使用 Neuton 框架创建 ML 模型已经可以通过 lab.neuton.ai 实现。如果您迫不及待，现在就可以尝试使用，但请注意，您需要自己将其集成到 nRF Connect SDK 应用程序中，因为目前还没有这方面的示例。如果您更喜欢 Nordic 众所周知的更简化的开发流程和开发体验，我们正计划适配我们的开发者生态的重大改进。因此，如果您不想自己完成所有的集成工作，您可以等待我们nRF Connect SDK 示例和必要开发工具，来构建与我们的解决方案无缝集成的模型。

工作原理

尽管通过专用示例固件与 nRF Connect SDK 的集成仍在进行中，但使用 Neuton 框架生成模型已经完全实现自动化，而且非常简单。

为您的应用生成一个完整、无依赖性的模型只需三个步骤。

1. 收集数据并上传数据集；该平台接收带标签的 CSV 文件
2. 选择数据集中的目标变量，并选择评估指标
3. 然后，平台会在后台 “自动 ”生成神经网络，一旦算法准备就绪，平台就会通知您。

将 Neuton 模型下载为一个完整的 C 语言库，并使用仅由 3 个简单函数调用组成的应用程序接口将其集成到您的应用程序中：

• neuton_nn_setup - 设置 Neuton 的内部组件，应首先调用，且仅调用一次
• neuton_nn_feed_inputs - 为模型推理提供并准备实时输入特征
• neuton_nn_run_inference - 将实时输入特征输入 Neuton 模型，计算输出结果

使用案例

Neuton 释放了以前仅限于我们旗舰硬件的使用案例，使我们所有的 SoC 都能用于边缘人工智能。例子包括：

• 预测性维护和楼宇自动化系统
• 在每个节点上进行本地数据分析的智能传感器网络
• 遥控器和可穿戴设备的动作和手势识别
• 用于智能健康可穿戴设备的健康和活动监测
• 还有更多

对标测试

下表列出了在同一 nRF52840 SoC 上运行的 LiteRT 模型（以前称为微控制器 TensorFlow Lite）和 Neuton 模型之间的对标测试结果。该比较使用了众所周知的 "magic wand "动作识别用例，两个模型都在相同的数据集上进行了训练，并在相同的保留集上进行了验证。

有关比较的完整文章可在此处查阅（外部链接）。

下一步工作

在接下来的几个月里，我们将努力把 Neuton 集成到我们的开发生态系统中，增加工具、示例和支持，为开发人员提供便利，为他们的应用增值。如果您非常想亲自尝试构建和集成 Neuton 模型，现在就可以使用其传统的在线平台 lab.neuton.ai 进行测试。