OmniShuffle Shuffle加速环境要求
安装OmniShuffle Shuffle加速特性前,请参考本节提前准备软硬件安装环境,以确保后续安装操作顺利进行。
硬件要求
集群中各节点硬件要求如表1所示。
操作系统和软件要求
集群中各节点操作系统和软件要求如表2所示。
项目 |
版本 |
说明 |
管理节点(Server) |
计算/存储节点 |
---|---|---|---|---|
操作系统 |
|
推荐使用openEuler 22.03 LTS SP1;基于openEuler 20.03 LTS SP1使用时,应将组件glibc升级到2.32及以上。 |
√ |
√ |
网卡驱动 |
- |
√ |
√ |
|
JDK |
- |
√ |
√ |
|
Hadoop |
3.2.0 |
√ |
√ |
|
Hive |
3.1.0 |
√ |
- |
|
Spark |
3.1.1 |
√ |
- |
|
ZooKeeper |
3.6.2及以上 |
√ |
- |
|
|
软件安装包安装获取
名称 |
包名 |
发布类型 |
说明 |
获取地址 |
---|---|---|---|---|
OmniShuffle |
BoostKit-omnishuffle_1.3.0.tar.gz |
闭源 |
OmniShuffle Shuffle加速软件安装包。 |
|
SparkExtension |
BoostKit-omnishuffle-spark-3.1.1-1.3.0-aarch64.zip |
开源 |
使用OmniShuffle Shuffle加速叠加OmniOperator算子加速时,Spark引擎扩展包。 |
父主题: 环境要求