鲲鹏社区首页
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

安装TritonServer SDK

本章节通过Yum源方式安装Docker,然后通过Docker拉取TritonServer SDK镜像并安装。

  1. 安装Docker。
    1
    yum install -y docker-engine
    
  2. 验证安装Docker版本。
    1
    docker --version
    

    若显示版本信息为18.09.0,则表示安装成功。

  3. 配置Docker镜像源及代理。
    1. 创建Docker全局配置文件。
      1
      2
      sudo mkdir -p /etc/docker
      sudo vi /etc/docker/daemon.json
      
    2. 按“i”进入编辑模式,编辑“daemon.json”文件,配置镜像加速地址,即添加或修改“registry-mirrors”字段,将以下内容中的https://<docker-mirror>替换为实际的镜像加速地址。
      {
      "registry-mirrors" : ["https://<docker-mirror>"]
      }

      "TritonServer SDK 24.05版本的Docker镜像大小约为11.3GB,请确保下载目录拥有足够的空间。

    3. 按“Esc”键退出编辑模式,输入:wq!,按“Enter”键保存并退出文件。
    4. 创建Docker代理配置文件。
      1
      2
      sudo mkdir -p /etc/systemd/system/docker.service.d
      sudo vim /etc/systemd/system/docker.service.d/http-proxy.conf
      
    5. 按“i”进入编辑模式,编辑“http-proxy.conf”文件,添加以下内容。
      其中,用户名、密码、代理IP地址和代理端口请根据实际情况填写。
      [Service]
      Environment="HTTP_PROXY=http://用户名:密码@代理IP地址:代理端口"
      Environment="HTTPS_PROXY=https://用户名:密码@代理IP地址:代理端口"
      Environment="NO_PROXY=localhost,127.0.0.1,huawei.com"
    6. 按“Esc”键退出编辑模式,输入:wq!,按“Enter”键保存并退出文件。
    7. 重新加载daemon文件并重启Docker。
      1
      2
      sudo systemctl daemon-reload
      sudo systemctl restart docker
      
  4. 拉取TritonServer SDK Docker镜像。
    1
    docker pull nvcr.io/nvidia/tritonserver:24.05-py3-sdk
    
  5. 验证安装镜像。
    1
    docker images | grep 24.05-py3-sdk
    

    若有对应回显信息,则表示安装成功。