---
title: 特性清单
description: "| 特性类型 | 特性名称 | 特性描述 | 约束 | 约束 |"
url: https://www.hikunpeng.com/document/detail/zh/SRA/twp/kunpengsra_19_0006.html
sourcePath: /source/zh/SRA/twp/kunpengsra_19_0006.html
indexId: 343083848d608edc5a8e7add4a82c16576aafb5d425c063bee1d45181b01105a42
---
# 特性清单

| 特性类型 | 特性名称 | 特性描述 | 约束 | 约束 |
| --- | --- | --- | --- | --- |
| 召回算法 | KScaNN | 基于倒排索引，结合鲲鹏架构深度优化索引布局、算法流程和计算流程，充分挖掘芯片潜力形成的向量检索算法。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3、openEuler 24.03 LTS SP1 编译器支持：GCC 12.3 性能指标：整机性能对比9654提升40%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3、openEuler 24.03 LTS SP1 编译器支持：GCC 12.3 性能指标：整机性能对比9654提升40%。 |
| 召回算法 | KBest | 通过量化、NUMA访存调度等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3、GCC 12.3 性能指标：整机性能对比9654提升40%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3、GCC 12.3 性能指标：整机性能对比9654提升40%。 |
| 召回算法 | KVecTurbo | 通过将高维向量量化压缩，快速获取query的近邻，同时使用SIMD指令集加速距离计算，用于多维向量最近邻搜索。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3、openEuler 20.03 LTS SP4 编译器支持：GCC 10.3 性能指标：整机性能对比开源提升30%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3、openEuler 20.03 LTS SP4 编译器支持：GCC 10.3 性能指标：整机性能对比开源提升30%。 |
| 召回算法 | KRL | 检索算子库是基于鲲鹏平台优化的用于加速向量检索的算子库，KRL可通过替换算子的形式对faiss原生的HNSW、PQFS、IVFPQ和IVFPQFS等算法进行加速。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：整机性能持平9654。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：整机性能持平9654。 |
| 召回算法 | KNewPfordelta | 鲲鹏New PForDelta算法，是鲲鹏构建的高效的召回倒排解压缩算法，通过向量指令等方法优化了倒排解压缩的性能。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3、openEuler 20.03 LTS SP4、openEuler 24.03 LTS SP1 编译器支持：GCC 10.3、GCC 12.3 性能指标：单核性能持平9654。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3、openEuler 20.03 LTS SP4、openEuler 24.03 LTS SP1 编译器支持：GCC 10.3、GCC 12.3 性能指标：单核性能持平9654。 |
| 召回算法 | Faiss | 对开源Faiss算法库进行了深度优化，通过向量化、维度交织查表累加及向量过滤压缩等关键技术，hnsw算法新增FP16接口支持，显著提升了IVFFlat、IVFPQ、HNSW、PQFS及IVFPQFS多种索引的相似性搜索与聚类效率。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3/debian12 编译器支持：GCC 12/ llvm1606 性能指标：整机性能持平9654，IVFPQ 1.15x。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3/debian12 编译器支持：GCC 12/ llvm1606 性能指标：整机性能持平9654，IVFPQ 1.15x。 |
| 召回算法 | DiskANN | 基于开源DiskANN算法库，通过NEON SIMD向量化、数据布局优化（邻接表驻留内存）、异步IO流水化、精排队列缩减等优化提升了磁盘检索性能。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：debian12 编译器支持：GCC 12/ llvm1606 性能指标：对比9654提升30%+ | 处理器：鲲鹏950 7592C处理器 操作系统支持：debian12 编译器支持：GCC 12/ llvm1606 性能指标：对比9654提升30%+ |
| 召回算法 | RaBitQ | 基于开源RaBitQ代码，将其扩展至ARM64（AArch64）架构，引入FP16精度优化、NEON SIMD向量化、汇编级LUT加速、SOAR溢出向量分配、ML自适应nprobe等多项性能优化和功能增强。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3/debian12 编译器支持：GCC 12/ llvm1606 性能指标：整机性能对比9654提升15%。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3/debian12 编译器支持：GCC 12/ llvm1606 性能指标：整机性能对比9654提升15%。 |
| 召回算法 | Embeddinglookup | 基于开源Monolith大规模实时推荐系统，对核心Embedding Lookup模块进行深度适配与性能优化。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3/Debian 12 编译器支持：GCC 12/ llvm1606 性能指标：单实例对比9654提升15%。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3/Debian 12 编译器支持：GCC 12/ llvm1606 性能指标：单实例对比9654提升15%。 |
| 召回算法 | hnswlib | 基于开源hnswlib算法库，针对ARM架构进行了深度优化：通过向量化技术实现FP16高效支持，并应用了预取与指令重排等优化策略。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：整机性能对比开源提升20%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：整机性能对比开源提升20%。 |
| 排序推理 | KDNN | 用于AI框架的加速算子库。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3 支持算子：Convolution类、Eltwise类、Inner Product类、Reduction类、Layer Normalization类、PReLU类、Matmul类、Softmax类、Sum类、Reorder类、Resampling类、Concat类、Shuffle类等 支撑单线程和多线程模式。 性能指标：平均性能（单核、单NUMA、单P、整机）达成0.6x。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3 支持算子：Convolution类、Eltwise类、Inner Product类、Reduction类、Layer Normalization类、PReLU类、Matmul类、Softmax类、Sum类、Reorder类、Resampling类、Concat类、Shuffle类等 支撑单线程和多线程模式。 性能指标：平均性能（单核、单NUMA、单P、整机）达成0.6x。 |
| 排序推理 | KDNN\_EXT | 使用Cython框架，向用户提供Python接口，更容易嵌入用户场景。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3 支持算子：random\_choice算子、softmax算子 性能指标：对比开源提升10%以上。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3 支持算子：random\_choice算子、softmax算子 性能指标：对比开源提升10%以上。 |
| 排序推理 | KTFOP | 用于TensorFlow的核心算子库。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3 支持算子：Select算子、Less算子、Greater算子、FloorMod算子、Matmul算子、LookupTableFind算子 性能指标：对比开源提升20%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 10.3 支持算子：Select算子、Less算子、Greater算子、FloorMod算子、Matmul算子、LookupTableFind算子 性能指标：对比开源提升20%。 |
| 排序推理 | TensorFlow | 鲲鹏TensorFlow是基于开源TensorFlow的高性能推理加速扩展，聚焦于搜推广推理场景下的高效执行。通过在图优化、算子、Runtime等方面进行了深度的性能增强，提升了模型推理的吞吐量和时延表现。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：对比开源模型吞吐自提升20%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：对比开源模型吞吐自提升20%。 |
| 排序推理 | TensorRT\-LLM | 基于开源的TensorRT\-LLM，聚焦于大模型推理场景下的高效执行。通过算子优化、访存优化、参数配置等进行了深度的性能增强，提升了模型推理的吞吐量和时延表现。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3 编译器支持：GCC 14.3 性能指标：使用Qwen3\-0.6B模型吞吐自提升20%。 | 处理器：鲲鹏950 7592C处理器 操作系统支持：openEuler 24.03 LTS SP3 编译器支持：GCC 14.3 性能指标：使用Qwen3\-0.6B模型吞吐自提升20%。 |
| 排序推理 | ANNC | TensorFlow图编译优化特性通过使能加速神经网络计算编译器ANNC（Accelerated Neural Network Compiler），实现推荐推理性能加速。ANNC提供了计算图优化，高性能融合算子生成与对接等优化技术 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：使用ModelZoo开源模型吞吐自提升20%。 | 处理器：鲲鹏920 7282C处理器 操作系统支持：openEuler 22.03 LTS SP3 编译器支持：GCC 12.3 性能指标：使用ModelZoo开源模型吞吐自提升20%。 |


以上算法特性及性能指标的测试结果均基于上表中所约束操作系统和编译器版本，未在其他系统或编译器环境下进行验证。
