迅为RK3576开发板NPU例程测试-rknn-toolkit2环境搭建和使用

迅为iTOP-3576开发板采用瑞芯微RK3576高性能、低功耗的应用处理芯片，集成了4个Cortex-A72和4个Cortex-A53核心，以及独立的NEON协处理器。它适用于ARM PC、边缘计算、个人移动互联网设备及其他多媒体产品。

2.1 rknn-toolkit2 环境搭建

rknn-toolkit2的环境搭建实际上就是安装瑞芯微提供的rknn-toolkit2 whl文件，但由于各个Linux环境有着不同的Python版本，所以RK也提供了不同版本的安装包(虽然RK也提供了arm64版本的whl，可以在开发板上进行模型转换，但由于开发板性能远远比不上PC端的性能，所以只讲解在PC端进行模型转换的方法)，具体如下图所示：

而根据不同的场景提供了三种knn-toolkit2的安装方法，分别为直接安装、conda虚拟环境安装以及docker环境安装，直接安装的方法最为省时省力，建议大家使用第一种方法，但直接安装会更改当前的环境，如果不想更改当前的环境可以使用第二种方法conda虚拟环境安装，而docker环境安装为瑞芯微已经提供了一个安装好knn-toolkit2的ubuntu20 docker环境，加载docker环境后就可直接使用，每种方法有各自的优点和缺点，大家可以根据自己的情况 选择对应的安装方法。

2.1.1 直接安装

瑞芯微提供了六个Python版本的的knn-toolkit2 whl安装包，可以根据自己的Linux环境来选择合适版本的安装包，具体的对应关系如下所示：

这里以ubuntu20为例进行knn-toolkit2的安装，ubuntu20对应的python版本为3.8，具体如下所示：

然后来到rknn-toolkit2/rknn-toolkit2/packages/X86_64目录下，如下图所示：

这里要用到的为Python3.8的依赖项文件以及rknn_toolkit2 whl文件，具体如下所示：

首先使用以下命令安装依赖项，如下图所示：

pip install -r requirements_cp38-2.3.0.txt -ihttps://repo.huaweicloud.com/repository/pypi/simple/

中间会遇到一些警告忽略即可,

然后使用以下命令安装rknn_toolkit2 whl文件，安装过程如下图所示：

pip install rknn_toolkit2-2.3.0-cp38-cp38-manylinux_2_17_x86_64.manylinux2014_x86_64.whl -i https://repo.huaweicloud.com/repository/pypi/simple/

安装完成之后输入python3进入python命令行，然后依次输入以下内容，能打印出rknn_

toolkit2版本证明安装成功，如下图所示：

from rknn.api import RKNN

RKNN(verbose=True)

至此，直接安装rknn_toolkit2就演示完成了，在后面的小节中会对rknn_toolkit2的实际功能进行演示。

2.1.2 conda 虚拟环境安装本小节要用到的软件安装包路径为“iTOP-3576开发板\02_【iTOP-RK3576开发板】开发资料\05_NPU例程测试配套资料\03_miniconda”

在上个小节中讲解了在Linux环境中直接安装rknn_toolkit2的方法，但这种方法可能会影响本地的环境，将之前配置的一些环境依赖搞乱，为了解决这种问题可以使用conda创建一个rknn_toolkit2专属python环境，从而实现不同环境之间的隔离问题。

conda可以直接在https://repo.anaconda.com/miniconda/网站进行下载，也可以之间使用迅为已经下载好的安装包，最后将它拷贝到Linxu环境中，拷贝完成如下图所示：

然后使用chmod命令赋予该文件可执行权限，然后运行，

根据步骤进行安装即可，安装完成之后重新打开一个终端，或者使用下面的source命令重新加载环境变量，就会在终端的最前面多出base的字符，

source ~/.bashrc

最前方为bash表示处在默认的配置环境，这时候需要创建rknn_toolkit2专属python环境， 可以使用以下命令创建一个名为rknn的、Python版本为3.8的虚拟环境，注：这里的Python版本可以任意设置，只需要选择同版本的rknn_toolkit2 whl包即可。

conda create -n rknn python=3.8

虚拟环境创建完成如下图所示：

然后使用“conda activate rknn”命令激活刚刚创建完成的rknn环境，激活完成之后终端最前方的base字符会更改为rknn，

然后来到rknn-toolkit2/rknn-toolkit2/packages/x86_64目录下，

由于前面创建的是Python版本为3.8的环境，所以这里要用到的为Python3.8的依赖项文件以及rknn_toolkit2 whl文件，具体如下所示：

首先使用以下命令安装依赖项，如下图所示：

pip install -r requirements_cp38-2.3.0.txt -ihttps://repo.huaweicloud.com/repository/pypi/simple/

安装完成如下图所示：

然后使用以下命令安装rknn_toolkit2 whl文件，安装过程如下图所示：

pip install

rknn_toolkit2-2.3.0-cp38-cp38-manylinux_2_17_x86_64.manylinux2014_x86_64.whl

-i

https://repo.huaweicloud.com/repository/pypi/simple/

安装完成之后输入python3进入python命令行，然后依次输入以下内容，能打印出rknn_ toolkit2版本证明安装成功，如下图所示：

from rknn.api import RKNN

RKNN(verbose=True)

至此，使用conda虚拟环境安装rknn_toolkit2就演示完成了，在后面的小节中会对rknn_t oolkit2的实际功能进行演示。