---
title: 配置部署环境
description: "部署前需要配置相关部署环境。"
url: https://www.hikunpeng.com/document/detail/zh/kunpengai/tuningguide/imog_a800ia2/kunpengai_800i_05_0003.html
sourcePath: /source/zh/kunpengai/tuningguide/imog_a800ia2/kunpengai_800i_05_0003.html
indexId: 6622223b73016e4bdd0b659c7060562fb456262bcd281e113e86a3b6d31fbebd73
---
# 配置部署环境

部署前需要配置相关部署环境。

如果需要在容器中进行部署推理模型，请用户在宿主机自行安装Docker并启动对应操作系统的容器（版本要求大于或等于24.x.x）。使用容器部署推理模型时请参见《MindIE Turbo 开发指南(https://www.hiascend.com/document/detail/zh/mindie/20RC2/AcceleratePlugin/turbodev/mindie-turbo-0006.html)》中的“安装MindIE Turbo（容器化）”章节。


#### 安装基础软件包

本文使用的操作系统为Ubuntu 24.04或openEuler 22.03 LTS SP4版本，您可以根据实际情况选择一个使用即可，也可以在容器中进行部署。

1. 安装基础软件包。

  - Ubuntu

```
apt-get install -y gcc g++ make zlib1g zlib1g-dev openssl libreadline-dev git wget libsqlite3-dev libssl-dev libffi-dev unzip pciutils net-tools libblas-dev gfortran libblas3 libopenblas-dev libxml2-dev libxml2 vim sudo flex bison libdigest-md5-perl perl* cpanminus cron curl
```


  - openEuler

```
yum install -y gcc-c++ make zlib-devel readline-devel git wget sqlite-devel openssl-devel libffi-devel unzip pciutils net-tools blas-devel gcc-gfortran openblas-devel libxml2-devel libxml2 vim-enhanced sudo flex bison perl-Digest-MD5 perl cronie curl
```


2. 直接执行下列指令，将基础环境变量设置并写入“~/.bashrc”中。

```
export GIT_SSL_NO_VERIFY=1
export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/driver:$LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/common:$LD_LIBRARY_PATH
echo 'export GIT_SSL_NO_VERIFY=1' >>
~
/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/driver:$LD_LIBRARY_PATH' >>
~
/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/Ascend/driver/lib64/common:$LD_LIBRARY_PATH' >>
~
/.bashrc
```


#### 安装CMake

1. 下载CMake(https://github.com/Kitware/CMake/releases)稳定版本.sh文件。可以在本地直接下载后上传到服务器，也可以使用下述命令在服务器上直接下载（版本推荐>=3.27.1，本文以3.31.5 Arm版本为例）。

```
wget --no-check-certificate https://github.com/Kitware/CMake/releases/download/v3.31.5/cmake-3.31.5-linux-aarch64.sh
```


2. 通过如下指令安装CMake，并将可执行文件写入开机启动。

```
bash cmake-3.31.5-linux-aarch64.sh --prefix=/usr/bin
export PATH=/usr/bin/cmake-3.31.5-linux-aarch64/bin:${PATH}
echo 'export PATH=/usr/bin/cmake-3.31.5-linux-aarch64/bin:${PATH}' >>
~
/.bashrc
```


#### 安装Python

Python版本要求为3.10及以上版本，本教程使用Anaconda和Python 3.11版本。

1. 获取Anaconda安装包(https://repo.anaconda.com/archive/)。以2024.02-1-Linux-aarch64版本为例，可以在本地直接下载后上传到服务器，也可以使用下述命令在服务器上直接下载。

```
wget --no-check-certificate https://repo.anaconda.com/archive/Anaconda3-2024.02-1-Linux-aarch64.sh
```


2. 安装Anaconda。

```
bash Anaconda3-2024.02-1-Linux-aarch64.sh -b -p /opt/conda
. /opt/conda/etc/profile.d/conda.sh
export PATH=/opt/conda/bin:/opt/conda/condabin:$PATH
echo ". /opt/conda/etc/profile.d/conda.sh" >>
~
/.bashrc
echo 'export PATH=/opt/conda/bin:/opt/conda/condabin:$PATH' >>
~
/.bashrc
```


3. 创建conda环境，以Python 3.11版本为例。

```
conda create --name 'test' python=3.11
```


4. 激活conda环境。

```
conda activate test
```


5. 配置pip镜像源，将以下代码写入~/.pip/pip.conf文件，没有该文件就新建。

```
[global]
index-url = http://mirrors.huaweicloud.com/repository/pypi/simple/
trusted-host = mirrors.huaweicloud.com
```


#### 安装CANN

1. 安装前请通过npu-smi info指令查看有无正常回显，确认Ascend NPU固件驱动已经安装。

  - 如果没有安装请先安装NPU驱动，再继续执行后续步骤。驱动安装方法请参见《    CANN 商用版 软件安装指南(https://www.hiascend.com/document/detail/zh/canncommercial/81RC1/softwareinst/instg/instg_0005.html?Mode=PmIns&InstallType=local&OS=Ubuntu&Software=cannToolKit)
》中的“安装NPU驱动和固件”章节。
  - 如果已安装，则继续执行后续步骤。
2. 进入CANN软件包下载页面(https://www.hiascend.com/developer/download/community/result?module=ie%2Bpt%2Bcann)，选择如下图所示的配套资源。
3. 下载下图中的3个CANN软件安装包，并上传到服务器的“/home/packages”目录下。
4. 进入对应路径，并安装CANN（需要使用chmod给run文件安装权限）。

```
cd /home/packages
chmod -R 755 .
./Ascend-cann-toolkit_8.1.RC1_linux-aarch64.run --install
source /usr/local/Ascend/ascend-toolkit/set_env.sh
echo 'source /usr/local/Ascend/ascend-toolkit/set_env.sh' >>
~
/.bashrc
./Ascend-cann-kernels-910b_8.1.RC1_linux-aarch64.run --install
./Ascend-cann-nnal_8.1.RC1_linux-aarch64.run --install
source /usr/local/Ascend/nnal/atb/set_env.sh
echo 'source /usr/local/Ascend/nnal/atb/set_env.sh' >>
~
/.bashrc
```


5. 按照以下步骤查询CANN版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。

  a. 进入软件包安装信息文件目录，请用户根据实际安装路径替换。

```
cd /usr/local/Ascend/ascend-toolkit/latest/arm64-linux/
```


  b. 执行以下命令获取版本信息。

```
cat ascend_toolkit_install.info
```


#### 安装Ascend Extension for PyTorch

安装Torch和torch_npu（以2.5.1为例）。如果需要其他版本，请参见《Ascend Extension for PyTorch 7.0.0 软件安装指南(https://www.hiascend.com/document/detail/zh/Pytorch/700/configandinstg/instg/insg_0004.html)》查询下载方式。

1. 下载Torch软件包。

```
wget https://download.pytorch.org/whl/cpu/torch-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl --no-check-certificate
```


2. 执行安装命令。

```
pip3 install torch-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
```


3. 下载torch_npu插件包。

```
wget https://gitcode.com/Ascend/pytorch/releases/download/v7.0.0-pytorch2.5.1/torch_npu-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl --no-check-certificate
```


4. 执行安装命令。

```
pip3 install torch_npu-2.5.1-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
```


5. 执行如下命令查询PyTorch版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。

```
pip show torch
pip show torch_npu
```