环境要求

安装OmniScheduler Yarn负载调度算法特性前,请参考本节提前准备软硬件安装环境,以确保后续安装操作顺利进行。

硬件要求

集群中各节点硬件要求如表1所示。

表1 硬件要求

硬件环境

管理/计算/存储节点

处理器

鲲鹏920 5250处理器

内存大小

384GB(12 * 32GB)

内存频率

2666MHz

网卡

  • 业务网络10GE
  • 管理网络GE

硬盘

  • 系统盘:1 * RAID 0(1 * 1.2T SAS HDD)
  • 数据盘:12 * RAID 0(12 * 8T SATA HDD)

RAID卡

LSI SAS3508

操作系统和软件要求

集群中各节点操作系统和软件要求如表2所示。

表2 操作系统和软件要求

项目

版本

说明

管理节点

计算/存储节点

操作系统

openEuler 22.03 LTS SP3

-

JDK

毕昇JDK 1.8.0_342

毕昇JDK安装指南请参考:《毕昇JDK 8 安装指南

Hadoop

3.3.4

部署指南请参考:《Hadoop 集群部署(CentOS 7.6&openEuler 20.03)

Spark

3.1.1/3.3.1/3.4.3

部署指南请参考:《Spark 部署指南(CentOS 7.6&openEuler 20.03)

-

Hive

3.1.0

部署指南请参见:《Hive部署指南(CentOS 7.6&openEuler 20.03)

-

Prometheus

2.45.4

从官网链接下载:Link

-

Grafana

10.4.2

从官网链接下载:Link

-

Node Exporter

1.7.0

从官网链接下载:Link

-

Go

1.22.2

从官网链接下载:Link

Node

19.9.0

从官网链接下载:Link

Python

3.6.0及以上

-

-

  • √:是指对应节点需要安装该项目。
  • -:是指对应节点不需要安装该项目。

当前特性仅支持Hadoop 3.3.4版本,对其他版本Hadoop暂不兼容。

软件安装包获取

表3 OmniScheduler Yarn负载调度算法软件获取列表

名称

包名

发布类型

说明

获取地址

OmniScheduler Yarn负载调度算法

BoostKit-loadsmetric-1.0.0-aarch64.zip

开源

OmniScheduler Yarn负载调度算法软件安装包。

Link