特性范围
数据类型
输入src数据类型 |
输出dst数据类型 |
缩放量及偏移量数据类型 |
|---|---|---|
f32 |
f32 |
f32 |
f16 |
f16 |
f16 |
bf16 |
bf16 |
bf16 |
传播方向及Flag支持
flag |
传播方向 |
|---|---|
dnnl_normalization_flags_none（默认归一化） |
|
dnnl_use_global_stats （全局统计量） |
|
dnnl_use_scale （启用缩放参数） |
Forward：
|
dnnl_use_shift （启用平移参数） |
|
dnnl_use_global_stats | dnnl_use_scale | dnnl_use_shift |
数据排布支持
Tensor维度 |
输入src Tensor数据排布 |
输出dst Tensor数据排布 |
均值与方差Tensor数据排布 |
|---|---|---|---|
2D |
dnnl_ab |
dnnl_ab |
dnnl_a |
3D |
dnnl_abc |
dnnl_abc |
dnnl_ab |
4D |
dnnl_abcd |
dnnl_abcd |
dnnl_abc |
5D |
dnnl_abcde |
dnnl_abcde |
dnnl_abcd |
父主题： Layer Normalization