编译安装源码
合入补丁文件后编译安装ONNX Runtime。
- 设置环境变量。
export ONNX_INTRA_NUM=6 export ONNX_INTER_NUM=6 export LD_LIBRARY_PATH=/usr/local/sra_inference/lib/neon/:$LD_LIBRARY_PATH
- ONNX_INTRA_NUM:模型内部并行线程数,控制一个算子内部的多线程并行。
- ONNX_INTER_NUM:模型级并行线程数,控制多个算子之间的并发执行。
线程数可根据需要自行设置。
- 进入“/path/to/ONNX_Runtime/onnxruntime-1.19.2”目录。
1cd /path/to/ONNX_Runtime/onnxruntime-1.19.2
- 编译ONNX Runtime,并创建目录“build”。
./build.sh --config RelWithDebInfo --build_shared_lib --parallel --compile_no_warning_as_error --skip_submodule_sync --cmake_extra_defines CMAKE_OSX_ARCHITECTURES=arm64 --allow_running_as_root --skip-keras-test --skip_onnx_tests --skip_tests --build_dir build
回显如下,则编译成功。
