鲲鹏社区首页
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

安装TritonServer SDK

本章节通过Yum源方式安装Docker,然后通过Docker拉取TritonServer SDK镜像并安装。

  1. 使用PuTTY工具,以root用户登录服务器。
  2. 进入Yum配置路径目录。
    1
    cd /etc/yum.repos.d/
    
  3. 添加openEuler镜像源。
    1. 进入“/etc/yum.repos.d/”目录,创建“openEuler.repo”文件。
      1
      2
      cd /etc/yum.repos.d/
      vi openEuler.repo
      
    2. 按“i”进入编辑模式,编辑“openEuler.repo”文件,添加以下内容。
      [OS]
      name=OS
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/OS/$basearch/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever/OS&arch=$basearch
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/OS/$basearch/RPM-GPG-KEY-openEuler
      
      [everything]
      name=everything
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/everything/$basearch/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever/everything&arch=$basearch
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/everything/$basearch/RPM-GPG-KEY-openEuler
      
      [EPOL]
      name=EPOL
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/EPOL/main/$basearch/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever/EPOL/main&arch=$basearch
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/OS/$basearch/RPM-GPG-KEY-openEuler
      
      [debuginfo]
      name=debuginfo
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/debuginfo/$basearch/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever/debuginfo&arch=$basearch
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/debuginfo/$basearch/RPM-GPG-KEY-openEuler
      
      [source]
      name=source
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/source/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever&arch=source
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/source/RPM-GPG-KEY-openEuler
      
      [update]
      name=update
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/update/$basearch/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever/update&arch=$basearch
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/OS/$basearch/RPM-GPG-KEY-openEuler
      
      [update-source]
      name=update-source
      baseurl=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/update/source/
      metalink=https://mirrors.openeuler.org/metalink?repo=$releasever/update&arch=source
      metadata_expire=1h
      enabled=1
      gpgcheck=1
      gpgkey=http://repo.openeuler.org/openEuler-22.03-LTS-SP3/source/RPM-GPG-KEY-openEuler
    3. 按“Esc”键,输入:wq!,按“Enter”保存并退出编辑。
  4. 安装Docker。
    1
    yum install -y docker-engine
    
  5. 验证安装Docker版本。
    1
    docker --version
    

    若显示版本信息为18.09.0,则表示安装成功。

  6. 配置Docker镜像源及代理。
    1. 创建Docker全局配置文件。
      1
      2
      sudo mkdir -p /etc/docker
      sudo vi /etc/docker/daemon.json
      
    2. 按“i”进入编辑模式,编辑“daemon.json”文件,添加以下内容。
      {
          "registry-mirrors": [
              "https://docker.mirrors.ustc.edu.cn",
              "https://registry.docker-cn.com"
          ],
          "insecure-registries":[
              "production.cloudflare.docker.com",
              "nvcr.io"
      
          ],
          "data-root": "/home/docker",
          "log-opts": {
              "max-size": "50m",
              "max-file": "1"
          }
      }

      "data-root"是Docker守护进程存储数据的根目录,下载的镜像源会存储在该目录,因TritonServer SDK 24.05版本的Docker镜像大小约为11.3GB,请确保指定的目录拥有足够的空间。

    3. 按“Esc”键,输入:wq!,按“Enter”保存并退出编辑。
    4. 创建Docker代理配置文件。
      1
      2
      sudo mkdir -p /etc/systemd/system/docker.service.d
      sudo vim /etc/systemd/system/docker.service.d/http-proxy.conf
      
    5. 按“i”进入编辑模式,编辑“http-proxy.conf”文件,添加以下内容。
      其中,用户名、密码、代理IP地址和代理端口请根据实际情况填写。
      [Service]
      Environment="HTTP_PROXY=http://用户名:密码@代理IP地址:代理端口"
      Environment="HTTPS_PROXY=https://用户名:密码@代理IP地址:代理端口"
      Environment="NO_PROXY=localhost,127.0.0.1,huawei.com"
    6. 按“Esc”键,输入:wq!,按“Enter”保存并退出编辑。
    7. 重新加载daemon文件并重启Docker。
      1
      2
      sudo systemctl daemon-reload
      sudo systemctl restart docker
      
  7. 拉取TritonServer SDK Docker镜像。
    1
    docker pull nvcr.io/nvidia/tritonserver:24.05-py3-sdk
    
  8. 验证安装镜像。
    1
    docker images | grep 24.05-py3-sdk
    

    若有对应回显信息,则表示安装成功。