MPI_Allreduce主要优化参数

1

Recursive

节点内和节点间均采用Recursive Doubling算法。

2

Node-aware Recursive+Binomial

支持节点感知，节点内采用Binomial Tree算法，节点间采用Recursive Doubling算法。

3

Socket-aware Recursive+Binomial

支持Socket感知，节点内采用Binomial Tree算法，节点间采用Recursive Doubling算法。

4

Ring

以进程为粒度的中大包Ring算法（阈值16384）。

5

Node-aware Recursive+K-nomial

支持节点感知，节点内采用K项树算法，节点间采用Recursive Doubling算法。

6

Socket-aware Recurisve+K-nomial

支持Socket感知，Socket内采用K项树算法，节点间采用Recursive Doubling算法。

7

Node-aware K-nomial+K-nominal

支持节点感知，节点内、节点间采用K项树算法。

8

Socket-aware K-nominal+K-nominal

支持Socket感知，Socket内、Socket间均采用K项树算法。