kutacc_af2_layernorm
layernorm归一化的kutacc实现
接口定义
kutacc_export void kutacc_af2_layernorm(__bf16 * data, float* gamma, float* beta, int64_t size, float eps, __bf16 * out);
参数
参数名 |
类型 |
描述 |
输入/输出 |
|---|---|---|---|
data |
__bf16 * |
数据源指针 |
输入 |
gamma |
float * |
layernorm归一化权重参数指针 |
输入 |
beta |
float* |
layernorm归一化偏置参数指针 |
输入 |
size |
float |
数据源最后一个维度的大小 |
输入 |
eps |
float |
极小量 用于稳定计算结果 |
输入 |
out |
__bf16 * |
计算结果 |
输出 |
参数约束关系：
data源数据的最后一维大小与gamma， beta大小一致，即size = weight.size, size = beta.size
gamma beta均只有一个维度，data维度支持三个维度进行运算
父主题： GEMM算子