使用说明

接口定义

初始化SoftmaxLayerFWD。构造时需要传入输入矩阵、权重矩阵、输出矩阵的tensor信息，其中偏置矩阵可以不送，会调用第二个构造函数进行初始化。

执行算子运算，要传入存放输入的内存地址和输出的内存地址。

Run(const void *src, void *dst)->void

ValidateInput负责验证Softmax输入参数。在算子构造过程中自动触发执行。

ValidateInput(const TensorInfo &srcInfo, const TensorInfo &dstInfo, SizeType axis, SoftmaxAlgorithmKind algorithm)->KDNN::Status

支持数据类型

• SoftMax支持fp32数据类型（TensorInfo对象初始化时需传入Shape、Type、Layout参数，此处列出为Type支持数据类型。）

  表4 TensorInfo对象初始化时支持的Type类型

  srcInfo	dstInfo
  KDNN::Element::TypeT::F32(fp32)	KDNN::Element::TypeT::F32(fp32)

• 最高支持5Dtensor，支持顺序数据排布：a、ab、abc、abcd、abcde。

  对应KDNN::Layout::A、KDNN::Layout::AB、KDNN::Layout::ABC、KDNN::Layout::ABCD、KDNN::Layout::ABCDE。

  表5 TensorInfo对象初始化时支持的Layout类型

  dimension	srcInfo	dstInfo
  1D	a	a
  2D	ab	ab
  3D	abc	abc
  4D	abcd	abcd
  5D	abcde	abcde

使用示例

二维数据类型为F32的SoftMax操作。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18

// 示例
using SizeType = KDNN::SizeType;
using Shape = KDNN::Shape;
using Type KDNN::Element::TypeT
// Tensor初始化
const KDNN::TensorInfo srcTensor= {{3, 2}, KDNN::Element::TypeT::F32, KDNN::Layout::AB};
const KDNN::TensorInfo dstTensor= {{3, 2}, KDNN::Element::TypeT::F32, KDNN::Layout::AB};
SizeType axis = 1;
KDNN::SoftmaxAlgorithmKind algKind = KDNN::SoftmaxAlgorithmKind::SOFTMAX
SizeType srcSize = srcATensor.GetTotalTensorSize();
SizeType dstSize = weiBTensor.GetTotalTensorSize();
// 申请存放入参和结果的的内存空间
float * src = malloc(srcSize* sizeof(float));
float * dst = malloc(dstSize* sizeof(float));
// 构造算子
KDNN::SoftmaxLayerFWD softMaxLayerFwd(srcTensor, dstTensor, axis, algKind);
// 执行算子运算
softMaxLayerFwd.Run(src, dst);