面向Altera FPGA和SoC的边缘就绪型AI工具套件

如今，边缘采集的数据量十分庞大。据 Gartner 预测，到 2025 年，将有多达 75% 的企业数据会在传统数据中心以外生成[1]。

随着企业运营的节奏日益加快，人们对快速响应的期望日益提升，决策逐渐从数据中心转向网络边缘。将采用人工智能 (AI) 和机器学习 (ML) 算法的计算能力及具有 AI 功能的设备安排在边缘，可以在提升数据处理量的同时生成更多数据，从而实现更复杂的 AI 用例，进而获得更多可行洞察。

企业实施 AI 需要满足哪些要求?

在整个企业内广泛实施 AI 时，务必要确保边缘设备、边缘基础设施和云三大基础设施要素均具备处理 AI 工作负载的足够性能。实施 AI 的具体要求包括：

- 高性能：AI 工作负载往往计算密集度较高，在进行 AI 训练或推理的地方，必须具备强大的计算性能;

- 低时延：将 AI 工作负载转移到边缘位置(即使只是将部分 AI 工作负载转移到边缘)，有助于降低决策时延;

- 高容量：AI 依赖大量数据，运行 AI 的基础设施必须确保计算、存储和内存容量能够胜任任务，从而避免瓶颈;

- 可靠的安全性：AI 工作负载涉及大量敏感数据，无论是何种 AI 工作负载，运行它们的设备和软件都必须更加安全可靠。

为什么 FPGA 是 AI 实施的理想选择?

人的大脑中有近 1,000 亿个神经元。尽管这已经是个天文数字，但将这些神经元组织成为网络的神经连接数量更是达到了百万亿级，而神经连接的数量显著影响着大脑的能力。

FPGA 内的互连性就类似于人脑中的神经连接。FPGA 内的可编程逻辑结构也以类似的方式相互连接，这就是为什么 Altera FPGA 是神经网络和其他 AI 工作负载实施的理想选择。

在逻辑和线路互连的层面上，FPGA 的比特级动态可编程性就好比灵活的大脑，可以调整注意力，专注于当前的特定任务。此外，一直以来，FPGA 的外部 I/O 也具备其他硬件架构所不具备的出色灵活性，可以连接到雷达、音频、振动和视觉等各种来源的传感器。这些特性能够让信号实时进出 FPGA，达到可媲美人脑的高级智能水平。

Altera FPGA 早先的一些产品比如 Cyclone 10 GX FPGA、Arria 10 GX FPGA 和 Stratix 10 GX FPGA 等，具备 I/O 灵活性、低功耗和低时延，本就可在 AI 推理上带来优势。

这些优势在三个全新的 Altera FPGA 和片上系统 (SoC) 家族的产品中又得到了补充，使得 AI 推理性能进一步获得了显著提升。这三个家族分别是 Stratix 10 NX FPGA 以及 Agilex FPGA 家族的新成员：Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列。这些 Altera FPGA 和 SoC 家族包含专门面向张量数学运算优化的专用 DSP 模块，为加速 AI 计算奠定了基础。

AI 和 DSP 计算密度的数量级提升*限 Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列提供。

面向 Altera FPGA 和 SoC 的边缘就绪型 AI 工具套件

分布式 AI/机器学习边缘解决方案往往十分复杂，开发难度非常高。Altera 提供的开发工具和软件致力于推动开放标准并支持容器化和云原生开发，从而帮助开发人员简化工作流程并加速分布式边缘解决方案的部署。对于使用 Altera FPGA 和 SoC 进行 AI/机器学习应用开发的人员，可以使用以下开发工具。

您可通过以下四种方式利用上述开发工具，将 Altera FPGA 和 AI/机器学习集成至您的系统：

1- 采用基于 FPGA 的 AI/机器学习加速器，实现 CPU 任务卸载。

2- 采用 Altera FPGA 实施 AI 加速器和额外逻辑，实现多功能 CPU 任务卸载。

3- 提取/内联处理 + AI。

4- Altera SoC FPGA 利用集成的 CPU(ARM 或 Nios 处理器内核)充当 AI/机器学习加速器，直接提取并处理数据，实施 AI/机器学习推理，然后通过以太网网络将处理过的数据和推理传输至云端。

边缘 AI 用例

许多数据中心以外的终端市场都很适合采用 FPGA 来实现应用和 AI 计算功能所需的逻辑，从而支持在本地处理数据。这些终端市场包括：

医疗和生命科学

包括医疗监护仪、具有图像识别和物体检测功能的 2D 诊断设备等。

航空航天

包括无人飞行载具( UAV )、目标检测、雷达侦测和分类等。

工业应用

可用于在边缘增加基于 AI 的检测和实时控制。

专业影音系统

包括可实现镜头自动平移/缩放和背景消除的视频会议摄像头等。

广播视频

包括从 SDR 到 HDR 的转换、不同视频分辨率的智能转换等。

消费级应用

包括具备人眼检测等功能，可实现立体成像的 3D 显示器等。