简介
本文档提供了KAIL的安装适配指导、算子说明与示例代码,旨在帮助用户熟悉KAIL的使用。
KAIL概述
KAIL(Kunpeng AI Library,鲲鹏AI算子库)是华为提供的基于鲲鹏平台优化的高性能AI算子库,包含KDNN(Kunpeng Deep Neural Network Library,鲲鹏深度神经网络算子库)和KDNN_EXT(Kunpeng Deep Neural Network Extension Library,鲲鹏深度神经网络算子扩展库)。主要由C/C++、汇编语言实现,主要包含深度神经网络算子库和扩展算子库,扩展算子包括softmax、random_choice等。KAIL的组成如表1所示。
序号 |
库名 |
描述 |
适用场景 |
|---|---|---|---|
1 |
KDNN |
深度神经网络算子库(Deep Neural Network Library)结合鲲鹏处理器微架构特性与软优化手段,优化AI算子性能。该算子库以插件形式集成至开源软件oneDNN。 |
适用于各种机器学习应用,包括图像分类、目标检测、语音识别等,并可以与各种深度学习框架集成,如TensorFlow、PyTorch等。 |
2 |
KDNN_EXT |
深度神经网络算子扩展库(Deep Neural Network Extension Library),深度优化softmax、random_choice等算子,封装为Python语言接口提供给用户调用。 |
适用于多分类任务、随机选择等场景,并可以与各种深度学习框架集成,如TensorFlow、PyTorch等。 |
KAIL仅适用于鲲鹏系列处理器。
为获得最优性能,KAIL接口内部不做完整入参校验,入参合法性由调用方业务来保证。
应用场景
KAIL主要在以下场景中使用:
- 深度学习加速:图像分类、目标检测和分割、自然语言处理、推荐系统
- HPC:气象、生命科学、制造、教育科研
- 大数据:机器学习算法
父主题: 开发指南