特性范围
数据类型
支持的数据类型，其中src和dst的类型必须一致
传播方向 |
src数据类型 |
dst数据类型 |
|---|---|---|
FWD_D、BWD_D |
f32 |
f32 |
f16 |
f16 |
|
bf16 |
bf16 |
|
s32 |
s32 |
|
s8 |
s8 |
|
u8 |
u8 |
数据排布
支持1D~5D Tensor，支持以下数据排布，输入和输出的排布相同。
Tensor维度 |
src数据排布 |
dst数据排布 |
|---|---|---|
1D Tensor |
a |
a |
2D Tensor |
ab,ba |
ab,ba |
3D Tensor |
abc,acb,bac,bca,cab,cba |
abc,acb,bac,bca,cab,cba |
4D Tensor |
abcd,abdc,acbd,acdb,adbc,adcb,bacd,bcda,cdab,cdba,dcab |
abcd,abdc,acbd,acdb,adbc,adcb,bacd,bcda,cdab,cdba,dcab |
5D Tensor |
abcde,abced,abdec,acbde,acdeb,adecb,bacde,bcdea,cdeab,cdeba,decab |
abcde,abced,abdec,acbde,acdeb,adecb,bacde,bcdea,cdeab,cdeba,decab |
参数约束
字段 |
含义 |
取值范围 |
|---|---|---|
--dir |
传播方向。 |
默认值：FWD_D BWD_D |
--dt |
src和dst数据类型。 |
默认值：f32 f16 bf16 s32 s8 u8 |
--tag |
src和dst数据内存排布。 |
a ab ba abc acb bac bca cab cba abcd abdc acbd acdb adbc adcb bacd bcda cdab cdba dcab abcde abced abdec acbde acdeb adecb bacde bcdea cdeab cdeba decab |
--axis |
轴心所在维度。 |
取值范围[0, Tensor维度-1] |
--group |
分组大小。 |
取值约束：大于等于1的整数，且要整除轴心所在维度的规模 |
[shuffle_desc] |
src&dst规模。 |
N1xN2xN3…xN5 |