安装TritonServer SDK
本章节通过Yum源方式安装Docker,然后通过Docker拉取TritonServer SDK镜像并安装。
- 安装Docker。
1
yum install -y docker-engine
- 验证安装Docker版本。
1
docker --version
若显示版本信息为18.09.0,则表示安装成功。
- 配置Docker镜像源及代理。
- 创建Docker全局配置文件。
1 2
sudo mkdir -p /etc/docker sudo vi /etc/docker/daemon.json
- 按“i”进入编辑模式,编辑“daemon.json”文件,配置镜像加速地址,即添加或修改“registry-mirrors”字段,将以下内容中的https://<docker-mirror>替换为实际的镜像加速地址。
{ "registry-mirrors" : ["https://<docker-mirror>"] }
"TritonServer SDK 24.05版本的Docker镜像大小约为11.3GB,请确保下载目录拥有足够的空间。
- 按“Esc”键退出编辑模式,输入:wq!,按“Enter”键保存并退出文件。
- 创建Docker代理配置文件。
1 2
sudo mkdir -p /etc/systemd/system/docker.service.d sudo vim /etc/systemd/system/docker.service.d/http-proxy.conf
- 按“i”进入编辑模式,编辑“http-proxy.conf”文件,添加以下内容。其中,用户名、密码、代理IP地址和代理端口请根据实际情况填写。
[Service] Environment="HTTP_PROXY=http://用户名:密码@代理IP地址:代理端口" Environment="HTTPS_PROXY=https://用户名:密码@代理IP地址:代理端口" Environment="NO_PROXY=localhost,127.0.0.1,huawei.com"
- 按“Esc”键退出编辑模式,输入:wq!,按“Enter”键保存并退出文件。
- 重新加载daemon文件并重启Docker。
1 2
sudo systemctl daemon-reload sudo systemctl restart docker
- 创建Docker全局配置文件。
- 拉取TritonServer SDK Docker镜像。
1
docker pull nvcr.io/nvidia/tritonserver:24.05-py3-sdk
- 验证安装镜像。
1
docker images | grep 24.05-py3-sdk
若有对应回显信息,则表示安装成功。
父主题: 配置编译环境