鲲鹏社区首页
中文
注册
开发者
我要评分
获取效率
正确性
完整性
易理解
在线提单
论坛求助

简介

本文档提供了KAIL的安装适配指导、算子说明与示例代码,旨在帮助用户熟悉KAIL的使用。

KAIL概述

KAIL(Kunpeng AI Library,鲲鹏AI算子库)是华为提供的基于鲲鹏平台优化的高性能AI算子库,包含KDNN(Kunpeng Deep Neural Network Library,鲲鹏深度神经网络算子库)和KDNN_EXT(Kunpeng Deep Neural Network Extension Library,鲲鹏深度神经网络算子扩展库)。主要由C/C++、汇编语言实现,主要包含深度神经网络算子库和扩展算子库,扩展算子包括softmax、random_choice等。KAIL的组成如表1所示。

表1 KAIL组成部分

序号

库名

描述

适用场景

1

KDNN

深度神经网络算子库(Deep Neural Network Library)结合鲲鹏处理器微架构特性与软优化手段,优化AI算子性能。该算子库以插件形式集成至开源软件oneDNN。

适用于各种机器学习应用,包括图像分类、目标检测、语音识别等,并可以与各种深度学习框架集成,如TensorFlow、PyTorch等。

2

KDNN_EXT

深度神经网络算子扩展库(Deep Neural Network Extension Library),深度优化softmax、random_choice等算子,封装为Python语言接口提供给用户调用。

适用于多分类任务、随机选择等场景,并可以与各种深度学习框架集成,如TensorFlow、PyTorch等。

KAIL仅适用于鲲鹏系列处理器。

为获得最优性能,KAIL接口内部不做完整入参校验,入参合法性由调用方业务来保证。

应用场景

KAIL主要在以下场景中使用:

  • 深度学习加速:图像分类、目标检测和分割、自然语言处理、推荐系统
  • HPC:气象、生命科学、制造、教育科研
  • 大数据:机器学习算法