• 正文
  • 推薦器件
  • 相關推薦
申請入駐 產業(yè)圖譜

學習筆記|如何移植NCNN

2024/05/29
1768
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

計算機視覺和深度學習領域,NCNN(Netural Network Computer Vision)是一個輕量級的神經網絡計算框架,被廣泛應用于各類嵌入式設備和移動平臺。今天,讓我們一同跟隨共創(chuàng)社團隊的步伐,揭秘他們如何進行NCNN的交叉編譯,并在ELF 1開發(fā)板上演繹實踐,以此驗證模型推理性能。

1、從GitHub下載NCNN源碼:https://github.com/Tencent/ncnn

2、將ncnn-master.zip拷貝到開發(fā)環(huán)境的/home/elf/work目錄下并解壓:

elf@ubuntu:~/work$ unzip ncnn-master.zip

3、配置CMake:

elf@ubuntu:~/work$ cd ncnn-master/toolchains/
elf@ubuntu:~/work/ncnn-master/toolchains$ vi arm-poky-linux-gnueabi.cmake

將下面的內容添加到arm-poky-linux-gnueabi.cmake文件中:

set(CMAKE_SYSTEM_NAME Linux)
set(CMAKE_SYSTEM_PROCESSOR arm)
set(CMAKE_C_COMPILER "arm-poky-linux-gnueabi-gcc")
set(CMAKE_CXX_COMPILER "arm-poky-linux-gnueabi-g++")
set(CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER)
set(CMAKE_FIND_ROOT_PATH_MODE_LIBRARY ONLY)
set(CMAKE_FIND_ROOT_PATH_MODE_INCLUDE ONLY)

set(CMAKE_C_FLAGS "-march=armv7-a -mfloat-abi=hard  --sysroot=/opt/fsl-imx-x11/4.1.15-2.0.0/sysroots/cortexa7hf-neon-poky-linux-gnueabi")

set(CMAKE_CXX_FLAGS "-march=armv7-a -mfloat-abi=hard --sysroot=/opt/fsl-imx-x11/4.1.15-2.0.0/sysroots/cortexa7hf-neon-poky-linux-gnueabi")

# cache flags
set(CMAKE_C_FLAGS "${CMAKE_C_FLAGS}" CACHE STRING "c flags")
set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS}" CACHE STRING "c++ flags")

4、編譯:

elf@ubuntu:~/work/ncnn-master$ mkdir build
elf@ubuntu:~/work/ncnn-master$ cd build/
elf@ubuntu:~/work/ncnn-master/build$ . /opt/fsl-imx-x11/4.1.15-2.0.0/environment-setup-cortexa7hf-neon-poky-linux-gnueabi 
elf@ubuntu:~/work/ncnn-master/build$ cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-poky-linux-gnueabi.cmake -DNCNN_SIMPLEOCV=ON -DNCNN_BUILD_EXAMPLES=ON -DCMAKE_BUILD_TYPE=Release ..
elf@ubuntu:~/work/ncnn-master/build$ make

5、將編譯完成得到的benchmark文件夾(build目錄下)和項目文件夾下的benchmark文件夾打包并放到U盤里:

elf@ubuntu:~/work/ncnn-master/build$ tar cvjf benchmark.tar.bz2 benchmark/ ../benchmark/

6、將U盤插入到ELF 1開發(fā)板上,拷貝壓縮包到/home/root路徑下并解壓:

root@ELF1:~# cp /run/media/sda1/benchmark.tar.bz2 .
root@ELF1:~# tar xvf benchmark.tar.bz2

7、測試:

root@ELF1:~# cd benchmark/
root@ELF1:~/benchmark# ./benchncnn

觀察結果顯示,絕大部分模型均已成功運行,其中所展示的數(shù)字指標代表了各自的執(zhí)行耗時。需注意,數(shù)值越小,意味著推理過程的完成速度越快。

通過這次實踐,共創(chuàng)社不僅展示了NCNN在嵌入式設備上的靈活性與強大性能,還向我們揭示了深度學習嵌入式技術落地的無限可能,更激勵著每一位嵌入式探索者:無論面對何種挑戰(zhàn),只要勇于探索、精于實踐,便能在嵌入式技術的海洋中乘風破浪,開辟出一片屬于自己的天地。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據手冊 ECAD模型 風險等級 參考價格 更多信息
74HC595PW,118 1 Nexperia 74HC595; 74HCT595 - 8-bit serial-in, serial or parallel-out shift register with output latches;n 3?-?state@en-us TSSOP 16-Pin

ECAD模型

下載ECAD模型
$0.4 查看
ECS-.327-12.5-34QS-TR 1 ECS International Inc Parallel - Fundamental Quartz Crystal, 0.032768MHz Nom, SMD, 2 PIN
$1.16 查看
W25Q16JVSSIQTR 1 Winbond Electronics Corp Flash, 2MX8, PDSO8, SOIC-8
$1.08 查看
飛凌嵌入式

飛凌嵌入式

保定飛凌嵌入式技術有限公司,創(chuàng)建于2006年,是一家專注嵌入式核心控制系統(tǒng)研發(fā)、設計和生產的高新技術企業(yè),是國內較早專業(yè)從事嵌入式技術的企業(yè)之一。 經過十幾年的發(fā)展與積累,公司擁有業(yè)內優(yōu)秀的軟硬件研發(fā)團隊,在北京及保定建立兩大研發(fā)基地,在蘇州、深圳設有華東、華南技術服務中心,并在北美、歐洲以及亞太等其他國家和地區(qū)擁有國際業(yè)務網絡。公司研發(fā)的智能設備核心平臺廣泛應用于物聯(lián)網、工控、軌道交通、醫(yī)療、電力、商業(yè)電子、智能家居、安防、機器人、環(huán)境監(jiān)測等諸多領域。

保定飛凌嵌入式技術有限公司,創(chuàng)建于2006年,是一家專注嵌入式核心控制系統(tǒng)研發(fā)、設計和生產的高新技術企業(yè),是國內較早專業(yè)從事嵌入式技術的企業(yè)之一。 經過十幾年的發(fā)展與積累,公司擁有業(yè)內優(yōu)秀的軟硬件研發(fā)團隊,在北京及保定建立兩大研發(fā)基地,在蘇州、深圳設有華東、華南技術服務中心,并在北美、歐洲以及亞太等其他國家和地區(qū)擁有國際業(yè)務網絡。公司研發(fā)的智能設備核心平臺廣泛應用于物聯(lián)網、工控、軌道交通、醫(yī)療、電力、商業(yè)電子、智能家居、安防、機器人、環(huán)境監(jiān)測等諸多領域。收起

查看更多

相關推薦