鲲鹏BoostKit搜推广使能套件旨在为互联网的搜索、推荐、广告场景提供基于鲲鹏平台的全栈解决方案的加速能力。

鲲鹏AI库KAIL（Kunpeng Artificial Intelligence Library）是华为提供的基于鲲鹏平台优化的高性能AI算子库，主要完成深度神经网络算子库（KAIL_DNN）和拓展算子库（KAIL_DNN_EXT）的优化。

鲲鹏召回算法库，简称：SRA_Recall，是华为提供的基于鲲鹏平台优化的召回算法库。由鲲鹏图检索算法KBest、基于鲲鹏架构深度优化的向量检索算法KScaNN和鲲鹏自研的向量检索加速组件KVecturbo组成。

鲲鹏推理加速套件，简称：SRA_Inference，是华为提供的基于鲲鹏平台优化的推理加速套件。该套件实现了TensorFlow、ONNX Runtime等主流框架在鲲鹏处理器的高效适配与推理加速。

为提升TensorFlow Serving推理性能，鲲鹏BoostKit提出了TensorFlow Serving线程调度优化方案。传统TensorFlow使用算子间的线程池并行计算不同的算子，虽可实现没有数据依赖的算子的并发执行，但在高并发场景下，多Session共享算子间线程池会导致任务抢占，严重降低整图计算效率。针对这一痛点，鲲鹏BoostKit改进了算子调度算法，并加入了其他线程管理优化，有效提升了高并发场景下的模型推理吞吐量。