特性范围
数据类型
src1数据类型 |
src2数据类型 |
... |
srcN数据类型 |
dst数据类型 |
|---|---|---|---|---|
f32 |
f32 |
f32 |
f32 |
f32 |
f16 |
f16 |
f16 |
f16 |
f16 |
bf16 |
bf16 |
bf16 |
bf16 |
bf16 |
s32 |
s32 |
s32 |
s32 |
s32 |
s8 |
s8 |
s8 |
s8 |
s8 |
u8 |
u8 |
u8 |
u8 |
u8 |
数据排布
最高支持5D Tensor，不同输入Tensor需具有相同维度、各维度值也需相同；支持以下数据排布，且各输入和输出Tensor数据排布相同。
Tensor维度 |
src1 / … / srcn / dst |
|---|---|
1D Tensor |
a |
2D Tensor |
ab,ba |
3D Tensor |
abc,acb,bac,bca,cab,cba |
4D Tensor |
abcd,abdc,acbd,acdb,adbc,adcb,bacd,bcda,cdab,cdba,dcab |
5D Tensor |
abcde,abced,abdec,acbde,acdeb,adecb,bacde,bcdea,cdeab,cdeba,decab |
参数约束
字段 |
含义 |
取值范围 |
|---|---|---|
--sdt |
src数据类型。 |
f32 f16 bf16 s32 s8 u8 |
--ddt |
dst数据类型。 |
f32 f16 bf16 s32 s8 u8 |
--stag |
src数据排布。 |
a ab ba abc acb bac bca cab cba abcd abdc acbd acdb adbc adcb bacd bcda cdab cdba dcab abcde abced abdec acbde acdeb adecb bacde bcdea cdeab cdeba decab |
--dtag |
dst数据排布。 |
a ab ba abc acb bac bca cab cba abcd abdc acbd acdb adbc adcb bacd bcda cdab cdba dcab abcde abced abdec acbde acdeb adecb bacde bcdea cdeab cdeba decab |
--axis |
拼接方向。 |
[0, dim_num - 1] |
[problem dim] |
src0规模：src1规模。 |
N1xN11xN3xN4xN5: N1xN12xN3xN4xN5 除了拼接维度的长度会不同，其他维度长度需要保持一致 |
Concat不仅要求输入输出的内存排布layout相同，对应的数据类型也必须相同。