说明及约束
- 矩阵类算子输入为double类型,输出为double。
- 输入double类型计算时会校验输入的double数值乘以10的精度次方结果为32比特范围内,保证计算结果不会溢出,但后续内部的u64滚动运算不保证计算结果在u64范围内。
- 密态矩阵乘法算子在double类型计算时会产生误差:根据精度设置,会对输入的数据进行四舍五入,例如精度设置为2,会根据输入数据的小数点后第三位进行四舍五入,使输入的数据保留2位小数。计算的结果也会根据精度设置进行截取,例如精度设置为2时,计算的结果会通过截断保留两位小数,其他低位小数都会被丢弃。其他算术类算子计算时若不涉及小数位数增加则按实际计算结果输出。
- 输入中矩阵的总行数(row)和总列数(col)字段必须与传入的矩阵的真实行数和列数保持一致。此外,对于矩阵乘法运算,给定两个矩阵A(维度为m×n)和B(维度为p×q),其乘积C = A×B仅在n = p时成立,此时结果矩阵C的维度为m×q。
父主题: 矩阵算术类算子调用