Convert

此类函数转换源向量中的每个元素的数据类型,结果保存在目的向量中。

带_S后缀的函数根据scale值对结果值进行缩放。如果转换后的结果超出输出数据范围,则将达到饱和。

对float16_t型数据进行转换时函数不支持HMPP_RND_FINANCIAL舍入模式。

函数接口声明如下:

参数

参数名

描述

取值范围

输入/输出

src

指向源向量的指针。

非空

输入

dst

指向目的向量的指针。

非空

输出

len

源向量长度。

(0, INT_MAX][3, INT_MAX]

输入

scale

缩放因数。

(0,INF)且输入为2^n

输入

rndMode

舍入模式。定义在枚举类型HmppRoundMode中,请参见枚举类型

枚举体HmppRoundMode元素:

  • HMPP_RND_ZERO、HMPP_RND_NEAR、HMPP_RND_FINANCIAL

输入

返回值

错误码

错误码

描述

HMPP_STS_NULL_PTR_ERR

src、dst这两个入参中存在空指针。

HMPP_STS_SIZE_ERR

len小于或等于0或len小于3。

HMPP_STS_NOT_SUPPORT

当前数据类型转换不支持参数传入的round mode。

HMPP_STS_SCALE_ERR

scale不在(0,INF)范围内或输入为nan。

示例

void ConvertExample()
{
    const int8_t src[BUFFER_SIZE_S] = { 123, 32, 0, -123, 3, -128, 32, -127, 64 };
    uint8_t dst[BUFFER_SIZE_S] = {0};
    int32_t i;
    HmppResult result = HMPPS_Convert_8s8u(src, dst, BUFFER_SIZE_S);
    printf("result = %d \ndst =", result);
    for(i = 0; i < BUFFER_SIZE_S; i++){
        printf(" %u ", dst[i]);
    }
    printf("\n");
}

运行结果:

result = 0 
dst = 123  32  0  0  3  0  32  0  64