配置部署环境
部署前需要配置相关部署环境。

安装基础软件包
本文使用的操作系统为Ubuntu 24.04或openEuler 22.03 LTS SP4版本,您可以根据实际情况选择一个使用即可,也可以在容器中进行部署。
- 安装基础软件包。
- Ubuntu
apt-get install -y gcc g++ make zlib1g zlib1g-dev openssl libreadline-dev git wget libsqlite3-dev libssl-dev libffi-dev unzip pciutils net-tools libblas-dev gfortran libblas3 libopenblas-dev libxml2-dev libxml2 vim sudo flex bison libdigest-md5-perl perl* cpanminus cron curl
- openEuler
yum install -y gcc-c++ make zlib-devel openssl-devel readline-devel git wget sqlite-devel openssl-devel libffi-devel unzip pciutils net-tools blas-devel gcc-gfortran openblas-devel libxml2-devel libxml2 vim-enhanced sudo flex bison perl-Digest-MD5 perl cronie curl
- Ubuntu
- 将基础环境变量设置并写入“~/.bashrc”中。
export GIT_SSL_NO_VERIFY=1 export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/driver:$LD_LIBRARY_PATH export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/common:$LD_LIBRARY_PATH echo 'export GIT_SSL_NO_VERIFY=1' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/driver:$LD_LIBRARY_PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/common:$LD_LIBRARY_PATH' >> ~/.bashrc
安装CMake
- 下载CMake稳定版本.sh文件(版本推荐>=3.27.1)。
- 通过如下指令安装CMake,并将可执行文件写入开机启动。
bash cmake-3.31.5-linux-aarch64.sh --prefix=/usr/bin export PATH=/usr/bin/cmake-3.31.5-linux-aarch64/bin:${PATH} echo 'export PATH=/usr/bin/cmake-3.31.5-linux-aarch64/bin:${PATH}' >> ~/.bashrc
安装Python
Python版本要求为3.10及以上版本,本教程使用Anaconda和Python 3.11版本。
- 获取Anaconda安装包。以2024.02-1-Linux-aarch64版本为例。
- 安装Anaconda。
bash Anaconda3-2024.02-1-Linux-aarch64.sh -b -p /opt/conda . /opt/conda/etc/profile.d/conda.sh export PATH=/opt/conda/bin:/opt/conda/condabin:$PATH echo ". /opt/conda/etc/profile.d/conda.sh" >> ~/.bashrc echo 'export PATH=/opt/conda/bin:/opt/conda/condabin:$PATH' >> ~/.bashrc
- 创建conda环境,以Python 3.11版本为例。
conda create --name 'test' python=3.11
- 激活conda环境。
conda activate test
- 配置pip镜像源,将以下代码写入~/.pip/pip.conf文件,没有该文件就新建:
[global] index-url = http://mirrors.aliyun.com/pypi/simple/ trusted-host = mirrors.aliyun.com
安装CANN

- 进入CANN软件包下载页面,选择如下图所示的配套资源。
- 下载下图中的3个CANN软件安装包,并上传到服务器的“/home/packages”目录下。
- 进入对应路径,并安装CANN(需要使用chmod给run文件安装权限)。
cd /home/packages chmod -R 755 . ./Ascend-cann-toolkit_8.1.RC1_linux-aarch64.run --install source /usr/local/Ascend/ascend-toolkit/set_env.sh echo 'source /usr/local/Ascend/ascend-toolkit/set_env.sh' >> ~/.bashrc ./Ascend-cann-kernels-910b_8.1.RC1_linux-aarch64.run --install ./Ascend-cann-nnal_8.1.RC1_linux-aarch64.run --install source /usr/local/Ascend/nnal/atb/set_env.sh echo 'source /usr/local/Ascend/nnal/atb/set_env.sh' >> ~/.bashrc
- 按照以下步骤查询CANN版本信息,查询结果与安装软件包的版本一致时,则验证安装成功。
- 进入软件包安装信息文件目录,请用户根据实际安装路径替换。
cd /usr/local/Ascend/ascend-toolkit/latest/<arch>-linux
- 执行以下命令获取版本信息。
cat ascend_toolkit_install.info
- 进入软件包安装信息文件目录,请用户根据实际安装路径替换。
安装Ascend Extension for PyTorch
安装Torch和Torch_NPU(以2.5.1为例)。如果需要其他版本,请参见《Ascend Extension for PyTorch 7.0.0 软件安装指南》查询下载方式。
- 下载Torch软件包。
wget https://download.pytorch.org/whl/cpu/torch-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl --no-check-certificate
- 执行安装命令。
pip3 install torch-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
- 下载Torch_NPU插件包。
wget https://gitee.com/ascend/pytorch/releases/download/v7.0.0-pytorch2.5.1/torch_npu-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl --no-check-certificate
- 执行安装命令。
pip3 install torch_npu-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
- 执行如下命令查询PyTorch版本信息,查询结果与安装软件包的版本一致时,则验证安装成功。
pip show torch pip show torch_npu