LayerNorm

接口功能

对单个样本的所有特征进行归一化。

函数原型

torch.nn.LayerNorm(
    normalized_shape: Union[int, List[int], torch.Size],
    eps: float = 1e-5,
    elementwise_affine: bool = True,
    device=None,
    dtype=None
)

参数说明

表1 参数说明
参数	类型	必填	说明
normalized_shape	int/list/tuple	是	需归一化的维度（如 [C, H, W]或hidden_size）。
eps	float	否	数值稳定性常数（默认1e-5）。
elementwise_affine	bool	否	是否逐元素学习γ和β（默认True）。

父主题： 算子接口