安装OmniOperator算子加速

  1. 安装OmniOperator算子加速 LLVM和jemalloc依赖。

    从软件要求中获取的LLVM、jemalloc压缩包，使用文件传输功能拷贝到所有节点对应目录下。

    1. 选中所有节点，单击“配置业务流”。

    2. 选择“自定义”，单击“下一步”。

    3. 选择“文件传输”，单击“添加”。

    4. 编辑任务1~2内容，单击“保存”。

      表1 任务1编辑参数内容

      参数

      内容

      任务名称

      拷贝jemalloc压缩包

      任务描述

      拷贝jemalloc压缩包到全部节点对应目录

      传输方向

      从本地传至远端主机

      本地路径

      本地安装包所在的目录

      远端路径

      /opt/omni-operator

      表2 任务2编辑参数内容

      参数

      内容

      任务名称

      拷贝LLVM压缩包

      任务描述

      拷贝LLVM压缩包程序包到全部节点对应目录

      传输方向

      从本地传至远端主机

      本地路径

      本地安装包所在的目录

      远端路径

      /opt/omni-operator

    5. 选择“命令执行”，单击“添加”。

    6. 编辑任务3内容，点击“保存”。
      表3 任务3编辑参数内容

      参数

      内容

      任务名称

      解压LLVM、jemalloc压缩包

      任务描述

      解压LLVM、jemalloc压缩包，并将其中的libLLVM-12.so、libjemalloc.so.2移动到对应目录

      运行目录

      /opt/omni-operator

      执行命令

      mkdir -p /opt/omni-operator/lib;

      unzip -o jemalloc.zip;unzip -o LLVM.zip;\cp libjemalloc.so.2 libLLVM-12.so /opt/omni-operator/lib;

  2. 安装OmniOperator算子加速。

    将软件获取中准备好的BoostKit-omniop_1.1.0.zip压缩包使用文件传输功能分发到所有节点，解压并放到相应目录。

    1. 在业务流配置页面，选择“文件传输”，单击“添加”。

    2. 编辑任务4的内容，单击“保存”。

      表4 任务4编辑参数内容

      参数

      内容

      任务名称

      拷贝OmniOperator算子加速安装程序包

      任务描述

      拷贝OmniOperator算子加速安装包到全部节点

      传输方向

      从本地传至远端主机

      本地路径

      本地安装包所在的目录

      远端路径

      /opt/omni-operator

    3. 选择“命令执行”，单击“添加”。

    4. 编辑任务5内容，点击“保存”。
      表5 任务5编辑参数内容

      参数

      内容

      任务名称

      解压OmniOperator算子加速压缩包，拷贝OmniOperator算子加速软件包到相应目录

      任务描述

      解压BoostKit-omniop_1.1.0.zip，boostkit-omniop-operator压缩包，将OmniOperator软件包拷到相应目录，并设置/opt/omni-operator/lib中包权限为550

      运行目录

      /opt/omni-operator

      执行命令

      unzip -o BoostKit-omniop_1.1.0.zip;tar -zxvf boostkit-omniop-operator-1.1.0-aarch64.tar.gz;

      cd /opt/omni-operator/boostkit-omniop-operator-1.1.0-aarch64;

      \cp -rf include libboostkit* boostkit-omniop* config.h libsecurec.so /opt/omni-operator/lib;

      chmod 550 /opt/omni-operator/lib/*;

  3. 安装HMPP。

    将软件要求中获取的HMPP压缩包使用文件传输功能分发到所有节点，解压并放到相应目录，并安装HMPP。

    1. 在业务流配置页面，选择“文件传输”，单击“添加”。

    2. 编辑任务6的内容，单击“保存”。

      表6 任务6编辑参数内容

      参数

      内容

      任务名称

      拷贝HMPP软件包

      任务描述

      拷贝HMPP软件包到全部节点

      传输方向

      从本地传至远端主机

      本地路径

      本地安装包所在的目录

      远端路径

      /opt/omni-operator

    3. 选择“命令执行”，单击“添加”。

    4. 编辑任务7~任务10内容，单击“保存”。

      表7 任务7编辑参数内容

      参数

      内容

      任务名称

      解压HMPP压缩包

      任务描述

      解压HMPP压缩包

      运行目录

      /opt/omni-operator

      执行命令

      unzip -o BoostKit-hmpp_1.7.0.zip;

      请根据情况安装具体版本号，当前以1.7.0为示例

      表8 任务8编辑参数内容

      参数

      内容

      任务名称

      安装RPM包

      任务描述

      在所有节点安装RPM包

      运行目录

      /opt/omni-operator

      执行命令

      rpm -e boostkit-hmpp-1.7.0-1.aarch64;rpm -ivh boostkit-hmpp-1.7.0-1.aarch64.rpm;

      请根据情况安装具体版本号，当前以1.7.0为示例。

      表9 任务9编辑参数内容

      参数

      内容

      任务名称

      配置HMPP环境变量

      任务描述

      在所有物理节点的环境变量LIBRARY_PATH和LD_LIBRARY_PATH后分别追加HMPP库路径

      运行目录

      /opt/omni-operator

      执行命令

      sed -i '$a export LIBRARY_PATH=/usr/local/lib/HMPP:$LIBRARY_PATH' ~/.bashrc;source ~/.bashrc;sed -i '$a export LD_LIBRARY_PATH=/usr/local/lib/HMPP:$LD_LIBRARY_PATH' ~/.bashrc;source ~/.bashrc;

      表10 任务10编辑参数内容

      参数

      内容

      任务名称

      在omni.conf文件中添加HMPP配置参数

      任务描述

      在omni.conf文件中添加HMPP配置参数，并修改配置文件权限为640

      运行目录

      /opt/omni-operator

      执行命令

      mkdir -p /opt/omni-operator/conf;

      sed -i '/enableHMPP/d' /opt/omni-operator/conf/omni.conf;

      echo "enableHMPP=true" >> /opt/omni-operator/conf/omni.conf;

      chmod 640 /opt/omni-operator/conf/omni.conf;

  4. 导出业务流，保存至本地。后续其他安装，即可通过导入业务流，快速安装。

    1. 单击右上角的“导出”。

      弹出“选择模板保存路径”窗口。

    2. 将模板命名为“OmniOperator算子加速安装及配置WorkFlow”，单击“保存”。

  5. 执行业务流。

    单击右下角的“完成”，选择“执行业务流”。执行状态成功即可。

    • “/opt/omni-operator/lib” 目录可自行定义。
    • “/opt/omni-operator” 目录可自行定义。
    • HMPP库默认路径为“/usr/local/lib/HMPP”，以机器上安装路径为准。
    • enableHMPP=true表示开启HMPP，false表示关闭HMPP（默认关闭）。

父主题： SmartKit部署OmniOperator算子加速