安装TritonServer SDK

本章节通过Yum源方式安装Docker，然后通过Docker拉取TritonServer SDK镜像并安装。

1. 安装Docker。

   1	yum install -y docker-engine

2. 验证安装Docker版本。

   1	docker --version

   若显示版本信息为18.09.0，则表示安装成功。

3. 配置Docker镜像源及代理。
   1. 创建Docker全局配置文件。

      1 2	sudo mkdir -p /etc/docker sudo vi /etc/docker/daemon.json

   2. 按“i”进入编辑模式，编辑“daemon.json”文件，配置镜像加速地址，即添加或修改“registry-mirrors”字段，将以下内容中的https://<docker-mirror>替换为实际的镜像加速地址。

      {
          "registry-mirrors" : [   
              "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
              "https://docker.m.daocloud.io", 
              "https://hub-mirror.c.163.com",
              "https://mirror.baidubce.com",
              "https://your_preferred_mirror",
              "https://dockerhub.icu",
              "https://docker.registry.cyou",
              "https://docker-cf.registry.cyou",
              "https://dockercf.jsdelivr.fyi",
              "https://docker.jsdelivr.fyi",
              "https://dockertest.jsdelivr.fyi",
              "https://mirror.aliyuncs.com",
              "https://dockerproxy.com",
              "https://mirror.baidubce.com",
              "https://docker.m.daocloud.io",
              "https://docker.nju.edu.cn",
              "https://docker.mirrors.sjtug.sjtu.edu.cn",
              "https://docker.mirrors.ustc.edu.cn",
              "https://mirror.iscas.ac.cn",
              "https://docker.rainbond.cc"
          ],
          "insecure-registries":[
              "production.cloudflare.docker.com",
              "nvcr.io"
          ],
          "data-root": "/home/docker",
          "log-opts": {
              "max-size": "50m",
              "max-file": "1"
          }
      }

      

      TritonServer SDK 24.05版本的Docker镜像大小约为11.3GB，请确保下载目录拥有足够的空间。

   3. 按“Esc”键退出编辑模式，输入:wq!，按“Enter”键保存并退出文件。
   4. 创建Docker代理配置文件。

      1 2	sudo mkdir -p /etc/systemd/system/docker.service.d sudo vim /etc/systemd/system/docker.service.d/http-proxy.conf

   5. 按“i”进入编辑模式，编辑“http-proxy.conf”文件，添加以下内容。
      其中，用户名、密码、代理IP地址和代理端口请根据实际情况填写。

      [Service]
      Environment="HTTP_PROXY=http://用户名:密码@代理IP地址:代理端口"
      Environment="HTTPS_PROXY=https://用户名:密码@代理IP地址:代理端口"
      Environment="NO_PROXY=localhost,127.0.0.1,huawei.com"

   6. 按“Esc”键退出编辑模式，输入:wq!，按“Enter”键保存并退出文件。
   7. 重新加载daemon文件并重启Docker。

      1 2	sudo systemctl daemon-reload sudo systemctl restart docker

4. 拉取TritonServer SDK Docker镜像。

   1	docker pull nvcr.io/nvidia/tritonserver:24.05-py3-sdk

5. 验证安装镜像。

   1	docker images | grep 24.05-py3-sdk

   若有对应回显信息，则表示安装成功。