哪吒系列文章之12——ncnn支持

塞巴斯蒂安

简介

本威力加强包由合作伙伴 腾讯 nihui 提供（https://github.com/Tencent/ncnn）

ncnn 是腾讯开源的神经网络推理框架

• 支持深度学习模型 caffe/mxnet/keras/pytorch(onnx)/darknet/tensorflow(mlir)
• 跨平台：Windows/Linux/MacOS/Android/iOS/WebAssembly/...
• 兼容多种 CPU 架构：RISC-V/x86/arm/mips/...
• 支持 GPU 加速：NVIDIA/AMD/Intel/Apple/ARM-Mali/Adreno/...
• 支持各种常见的模型结构，比如 mobilenet/shufflenet/resnet/LSTM/SSD/yolo...
• 很强，qq群请移驾 ncnn github 首页README
  

一、使用方法

01、准备交叉编译工具链

去平头哥芯片开放社区下载 工具链-900 系列：
https://occ.t-head.cn/community/download?id=3913221581316624384

比如 riscv64-linux-x86_64-20210512.tar.gz，下载后解压缩，设置环境变量

1. tar -xf riscv64-linux-x86_64-20210512.tar.gz
   
2. export RISCV_ROOT_PATH=/home/nihui/osd/riscv64-linux-x86_64-20210512

复制代码

02、下载和编译ncnn

为 D1-H 架构交叉编译 ncnn

因为编译器 bug，release 编译会导致运行时非法指令错误，必须使用 relwithdebinfo 编译哦

1. git clone https://github.com/Tencent/ncnn.git
   
2. cd ncnn
   
3. mkdir build-c906
   
4. cd build-c906
   
5. cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/c906.toolchain.cmake -DCMAKE_BUILD_TYPE=relwithdebinfo -DNCNN_BUILD_TESTS=ON -DNCNN_OPENMP=OFF -DNCNN_THREADS=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_RVV=ON ..
   
6. make -j32

复制代码

03、测试benchncnn

D1-H 默认的 TinaLinux 执行 ncnn 程序时会发生非法指令错误，必须使用 Debian 系统哦

将 ncnn/build-c906/benchmark/benchncnn 和 ncnn/benchmark/*.param 拷贝到 D1-H开发板上

1. ./benchncnn 4 1 0 -1 0

复制代码

更多
原文链接及后续更新见： https://gist.github.com/nihui/ff7bfb3e48bb850a9d7bd495c0a6d373
在全志d1开发板上玩ncnn

完