安装OmniAdvisor参数调优特性前,请参考本节提前准备软硬件安装环境,以确保后续安装操作顺利进行。
集群中各节点硬件要求如表1所示。
集群中各节点操作系统和软件要求如表2所示。
项目 |
版本 |
说明 |
管理节点(Server) |
计算/存储节点 |
---|---|---|---|---|
操作系统 |
|
请按照版本要求自行安装 |
√ |
√ |
JDK |
BiSheng JDK 1.8.0_342 |
BiSheng JDK安装指南请参见:《毕昇JDK 8 安装指南》 |
√ |
√ |
Hadoop |
3.2.0 |
部署指南请参考:《Hadoop 集群部署(CentOS 7.6&openEuler 20.03)》 |
√ |
√ |
Hive |
3.1.0 |
部署指南请参考:《Hive 部署指南(CentOS 7.6&openEuler 20.03)》 |
√ |
- |
Spark |
3.1.1/3.3.1 |
部署指南请参考:《Spark 部署指南(CentOS 7.6&openEuler 20.03)》 |
√ |
- |
ZooKeeper |
3.6.2及以上 |
- |
√ |
|
Tez |
0.10.0 |
部署指南请参考:《Hive 部署指南(CentOS 7.6&openEuler 20.03)》 |
√ |
- |
Python |
3.10.2及以上 |
请按照版本要求自行安装 |
√ |
√ |
MySQL |
内核版本15.1及以上(使用mysql --version查看) |
部署指南请参考:《Hive 部署指南(CentOS 7.6&openEuler 20.03)》中安装MariaDB的部分。 |
√ |
- |
Anaconda |
4.12.0及以上 |
Python包管理工具,可根据实际情况选择是否安装Anaconda。 |
√ |
- |
|
安装OmniAdvisor参数调优所需软件安装包及其获取方式如表3所示。
名称 |
包名 |
发布类型 |
说明 |
获取地址 |
---|---|---|---|---|
OmniRuntime压缩包 |
BoostKit-omniruntime_1.5.0.zip |
闭源 |
OmniRuntime压缩包,解压可获得OmniAdvisor参数调优软件安装包(BoostKit-omniadvisor_1.1.0.zip)。实现了参数采样、参数推荐等功能。 |
鲲鹏社区:Link 说明:
使用软件包前请先阅读《鲲鹏应用使能套件BoostKit用户许可协议 2.0》,如确认继续使用,则默认同意协议的条款和条件。 |
OmniAdvisor日志解析JAR包 |
boostkit-omniadvisor-log-analyzer-1.1.0-aarch64.zip |
开源 |
实现了对日志进行解析的功能。 |
说明:
请参见链接中的说明下载压缩包并使用说明中的命令组装成boostkit-omniadvisor-log-analyzer-1.1.0-aarch64.zip。 |
hive-testbench |
hive-testbench-hdp3.zip |
开源 |
生成TPC-DS/TPCH数据时使用的TestBench源码包。 |
从鲲鹏社区获取的软件安装包,下载软件安装包后需要校验软件安装包,确保与网站上的原始软件安装包一致。
校验方法:
https://support.huawei.com/enterprise/zh/tool/pgp-verify-TL1000000054