---
title: 使用说明
description: "初始化Linear+relu、Linear+silu、Linear+gelu，构造时需要传入输入矩阵、权重矩阵、输出矩阵的tensor信息，其中偏置矩阵可以不传入，会调用第二个构造函数进行初始化。"
url: https://www.hikunpeng.com/document/detail/zh/kunpenghpcs/hpckit/devg/KunpengHPCKit_developer_167.html
sourcePath: /source/zh/kunpenghpcs/hpckit/devg/KunpengHPCKit_developer_167.html
indexId: a6bad972e28ece7081511cc112b52a4cffa684cc7a0e4f8fc2c577d6d4c38f5d67
---
# 使用说明

#### 接口定义

初始化Linear+relu、Linear+silu、Linear+gelu，构造时需要传入输入矩阵、权重矩阵、输出矩阵的tensor信息，其中偏置矩阵可以不传入，会调用第二个构造函数进行初始化。

- LinearActivationLayerFWD(const TensorInfo &aInfo, const TensorInfo &bInfo, const TensorInfo &cInfo, const TensorInfo &biasInfo, float alpha = 1.0f, float beta = 0.0f, ActivationFunction kind = KuDNN::ActivationFunction::RELU, int numthreads = 0)->void
- LinearActivationLayerFWD(const TensorInfo &aInfo, const TensorInfo &bInfo, const TensorInfo &cInfo, float alpha = 1.0f, float beta = 0.0f, ActivationFunction kind = KuDNN::ActivationFunction::RELU, int numthreads = 0)->void


**表1 LinearActivationLayerFWD函数输入参数**

| 参数名称 | 数据类型 | 描述 | 取值范围 |
| --- | --- | --- | --- |
| aInfo | KuDNN::TensorInfo | src张量信息。 | {shape，type，layout} |
| bInfo | KuDNN::TensorInfo | weight张量信息。 | {shape，type，layout} |
| cInfo | KuDNN::TensorInfo | dst张量信息。 | {shape，type，layout} |
| biasInfo | KuDNN::TensorInfo | bias张量信息。 | {shape，type，layout} |
| alpha | float | 激活函数参数。 | 默认1.0（kind=RELU时填0） |
| beta | float | 激活函数参数。 | 默认0.0 |
| kind | enum class | 激活函数类型。 | 默认KuDNN::ActivationFunction::RELU 可选SWISH/GELU\_TANH/GELU\_ERF |
| numthreads | int | 线程数。 | 默认0 |


执行算子运算，要传入存放输入的内存地址和输出的内存地址，a、b、c、bias分别是输入矩阵、权重矩阵、输出矩阵及偏置矩阵的内存地址。其中偏置矩阵的地址要根据构造时是否传入bias选择是否传入。

- void Run(const void *a, const void *b, void *c, const void *bias, int numThreads = 0)->void
- Run(const void *a, const void *b, void *c, int numThreads = 0)->void


**表2 Run函数输入参数**

| 参数名称 | 数据类型 | 描述 | 取值范围 |
| --- | --- | --- | --- |
| a | void \* | 输入指针。 | 大小为MxKxtype.GetSize()的指针 |
| b | void \* | 权重指针。 | 大小为KxNxtype.GetSize()的指针 |
| c | void \* | 输出指针。 | 大小为MxNxtype.GetSize()的指针 |
| bias | void \* | 偏置指针。 | 大小为MxNxtype.GetSize()的指针 |
| numThreads（可选） | int | 线程数。 | 默认设为0时会使用GetMaxNumThreads返回的最大线程数 |


ValidateInput验证Linear+relu、Linear+silu、Linear+gelu输入参数，并在算子构造过程中自动触发执行。

- ValidateInput(const TensorInfo &srcInfo, const TensorInfo &weiInfo, const TensorInfo &dstInfo, const TensorInfo &biasInfo, float alpha = 1.0f, float beta =0.0f, ActivationFunctionkind=KuDNN::ActivationFunction::RELU, int numthreads = 0)-> KuDNN::Status
- ValidateInput(const TensorInfo &srcInfo, const TensorInfo &weiInfo, const TensorInfo &dstInfo, float alpha = 1.0f, float beta =0.0f,ActivationFunctionkind=KuDNN::ActivationFunction::RELU, int numthreads = 0)-> KuDNN::Status


**表3 ValidateInput函数输入参数**

| 参数名称 | 数据类型 | 描述 | 取值范围 |
| --- | --- | --- | --- |
| srcInfo | KuDNN::TensorInfo | src张量信息。 | {shape，type，layout} |
| weiInfo | KuDNN::TensorInfo | weight张量信息。 | {shape，type，layout} |
| dstInfo | KuDNN::TensorInfo | dst张量信息。 | {shape，type，layout} |
| biasInfo | KuDNN::TensorInfo | bias张量信息。 | {shape，type，layout} |
| alpha | float | 激活函数参数。 | 默认1.0（kind=RELU时为0） |
| beta | float | 激活函数参数。 | 默认0.0 |
| kind | enum class | 激活函数类型。 | 默认KuDNN::ActivationFunction::RELU 可选SWISH/GELU\_TANH/GELU\_ERF |
| numthreads | int | 线程数。 | 默认0 |


#### 支持数据类型

- postops支持fp16/fp32/bf16数据类型（TensorInfo对象初始化时需传入Shape、Type、Layout参数，此处列出为Type支持数据类型）。
**表4 TensorInfo对象初始化时支持的Type类型**

| srcInfo | weiInfo | dstInfo | biasInfo |
| --- | --- | --- | --- |
| KuDNN::Element::TypeT::F16(fp16) | KuDNN::Element::TypeT::F16(fp16) | KuDNN::Element::TypeT::F16(fp16) | KuDNN::Element::TypeT::F16(fp16) |
| KuDNN::Element::TypeT::F32(fp32) | KuDNN::Element::TypeT::F32(fp32) | KuDNN::Element::TypeT::F32(fp32) | KuDNN::Element::TypeT::F32(fp32) |
| KuDNN::Element::TypeT::BF16(bf16) | KuDNN::Element::TypeT::BF16(bf16) | KuDNN::Element::TypeT::BF16(bf16) | KuDNN::Element::TypeT::BF16(bf16) |


- 最高支持5Dtensor，支持顺序数据排布：a、ab、abc、abcd、abcde。
  对应KuDNN::Layout::A、KuDNN::Layout::AB、KuDNN::Layout::ABC、KuDNN::Layout::ABCD、KuDNN::Layout::ABCDE。

**表5 TensorInfo对象初始化时支持的Layout类型**

| dimension | srcInfo | weiInfo | dstInfo | biasInfo |
| --- | --- | --- | --- | --- |
| 2D | ab/ba | ab/ba | ab/ba | ab/ba |
| 3D | abc/acb | abc/acb | abc/acb | abc/acb |
| 4D | abcd/abdc | abcd/abdc | abcd/abdc | abcd/abdc |
| 5D | abcde/abced | abcde/abced | abcde/abced | abcde/abced |


#### 使用示例

二维数据类型为FP32 ops为RES_IDENTIAL的linear+ops操作。

```
using SizeType = KuDNN::SizeType;
using Shape = KuDNN::Shape;
using Type KuDNN::Element::TypeT
// Tensor初始化
const KuDNN::TensorInfo srcTensor = {{110, 20}, KuDNN::Element::TypeT::F32, KuDNN::Layout::AB};
const KuDNN::TensorInfo weiTensor = {{20, 200}, KuDNN::Element::TypeT::F32, KuDNN::Layout::AB};
const KuDNN::TensorInfo dstTensor = {{110, 200}, KuDNN::Element::TypeT::F32, KuDNN::Layout::AB};
const KuDNN::TensorInfo biasTensor = {{110, 200}, KuDNN::Element::TypeT::F32, KuDNN::Layout::AB};
float alpha = 0.0f;
float beta = 0.0f;
KuDNN::ActivationFunction algKind = KuDNN::ActivationFunction::RELU;
int numThreads = 0;
SizeType srcSize = srcTensor.GetTotalTensorSize();
SizeType dstSize = weiBTensor.GetTotalTensorSize();
SizeType weiSize = dstCTensor.GetTotalTensorSize();
SizeType biasSize = biasTensor.GetTotalTensorSize(); 
// 申请存放入参和结果的内存空间
float * src = malloc(srcSize * sizeof(float));
float * wei = malloc(weiSize * sizeof(float));
float * dst = malloc(dstSize * sizeof(float));
float * bias = malloc(biasSize * sizeof(float));
// 构造算子KuDNN::LinearActivationLayerFWD
linearActivationLayerFwd(srcTensor, weiTensor, dstTensor,
biasTensor, alpha, beta, algKind, numThreads);
// 算子执行
linearActivationLayerFwd.Run(src, wei, dst, bias, numThreads);
```