EN
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

安装Spark引擎

下述步骤需在管理节点和所有计算节点操作。

  1. 安装Spark引擎。具体请参考操作系统和软件要求
  2. 安装openEuler操作系统的SparkExtension依赖。

    各系统镜像配置本地Yum源,执行以下命令安装依赖。

    yum install lz4-devel.aarch64 -y
    yum install zstd-devel.aarch64 -y
    yum install snappy-devel.aarch64 -y
    yum install protobuf-c-devel.aarch64 protobuf-lite-devel.aarch64 -y
    yum install boost-devel.aarch64 -y
    yum install cyrus-sasl-devel.aarch64 -y
    yum install jsoncpp-devel.aarch64 -y
    yum install openssl-devel.aarch64 -y
    yum install libatomic.aarch64 -y
  3. 配置SparkExtension。
    1. 软件获取中获取到ORC和Protobuf软件包,解压后得到liborc.so和libprotobuf.so.24,并上传到“/opt/omni-operator/lib”目录下,并修改文件权限为550。
      chmod 550 /opt/omni-operator/lib/liborc.so
      chmod 550 /opt/omni-operator/lib/libprotobuf.so.24
    2. 解压boostkit-omniop-spark-3.1.1-1.2.0-aarch64.zip得到boostkit-omniop-spark-3.1.1-1.2.0-aarch64.jar,并将boostkit-omniop-spark-3.1.1-1.2.0-aarch64.jar拷贝到“/opt/omni-operator/lib”目录下,并修改软件包权限为550。
      chmod 550 /opt/omni-operator/lib/boostkit-omniop-spark-3.1.1-1.2.0-aarch64.jar
    3. 将从boostkit-omniop-spark-3.1.1-1.2.0-aarch64.zip中解压出的dependencies.tar.gz进行解压,并将解压后得到的dependencies文件夹拷贝至“/opt/omni-operator/lib”目录下,并修改软件包权限为550。
      chmod -R 550 /opt/omni-operator/lib/dependencies/
  4. 在所有节点的“~/.bashrc”文件中添加如下环境变量。
    export OMNI_HOME=/opt/omni-operator