--- title: 鲲鹏 BoostKit 搜推广场景-鲲鹏社区 description: 鲲鹏BoostKit搜推广场景致力于为互联网领域的搜索、推荐与广告业务场景提供基于鲲鹏平台的全栈加速能力。方案全面覆盖关键环节，包括召回阶段的核心检索算法、排序阶段基于TensorFlow框架的模型推理，以及AI核心算子库等软件栈，助力搜推广系统在性能与效率上实现显著提升。 keywords: BoostKit,鲲鹏社区,鲲鹏,搜推广场景致,力于为互联网,领域的搜索,推荐与广告业,务场景提供基 url: https://www.hikunpeng.com/boostkit/sra section: (其他) --- # 鲲鹏 BoostKit 搜推广场景-鲲鹏社区 URL: https://www.hikunpeng.com/boostkit/sra 描述: 鲲鹏BoostKit搜推广场景致力于为互联网领域的搜索、推荐与广告业务场景提供基于鲲鹏平台的全栈加速能力。方案全面覆盖关键环节，包括召回阶段的核心检索算法、排序阶段基于TensorFlow框架的模型推理，以及AI核心算子库等软件栈，助力搜推广系统在性能与效率上实现显著提升。 关键词: BoostKit,鲲鹏社区,鲲鹏,搜推广场景致,力于为互联网,领域的搜索,推荐与广告业,务场景提供基 鲲鹏应用使能套件BoostKit [了解详情](https://www.hikunpeng.com/zh/developer/boostkit) 鲲鹏 BoostKit 搜推广场景 ## 鲲鹏 BoostKit 搜推广场景 ### 鲲鹏BoostKit搜推广场景致力于为互联网领域的搜索、推荐与广告业务场景提供基于鲲鹏平台的全栈加速能力。方案全面覆盖关键环节，包括召回阶段的核心检索算法、排序阶段基于TensorFlow框架的模型推理，以及AI核心算子库等软件栈，助力搜推广系统在性能与效率上实现显著提升。 适配层： - 召回场景：基于鲲鹏920 7282C处理器完成开源ScaNN检索算法兼容适配，提供迁移指南 - 排序推理场景：基于鲲鹏920 7282C处理器完成开源TensorFlow、Pytorch和oneDNN等软件兼容适配，提供迁移指南和推理实践指南 场景化使能套件： - 召回图检索算法KBest（对标Faiss HNSW）：通过查询感知、图重排等算法优化，结合向量化指令、汇编、预取等硬件优化，整机性能提升40% - 召回向量检索算法KScaNN：通过动态库内联、低比特量化、检索算子、向量化指令等优化，整机性能提升40% - 召回向量检索算法库加速组件KVecturbo：通过高维向量量化压缩，SIMD指令集加速距离计算等优化，可对接openGuass向量数据库使用 - 开源图检索算法hnswlib：提供FP16数据类型检索，性能提升20% - 开源检索算法库Faiss：通过向量化、维度交织查表累加、向量过滤压缩等优化，加速IVFFlat、IVFPQ、HNSW、IVFPQFS等索引检索性能 - TensorFlow框架：提供TFS线程调度优化等特性，加速排序模型推理 - AI编译器ANNC：通过图算融合、算子自动生成等技术，加速排序模型推理 基础加速库： - 鲲鹏检索算子库KRL：通过鲲鹏向量化指令等手段实现距离计算等核心算子优化，对接Faiss、ScaNN、HNSWlib等多个算法库，性能提升10% - 鲲鹏AI算子库KDNN：通过鲲鹏向量化指令、预取等手段实现Matmul、Conv等核心算子优化，对接开源oneDNN提供完整能力，性能提升20%，支持加速TensorFlow矩阵算子 - 鲲鹏数学库KML：提供GEMM、GEMV等数学接口，涵盖BLAS、Libm、FFT等基础数学库 基础软件： - OS：适配openEuler操作系统 - 编译器：GCC动态库内联、自动矢量化等 应用场景 搜索 注重用户主动输入的关键词，以相关性为核心，帮助用户找到明确的信息 推荐 依赖于用户的历史行为和兴趣画像，提供个性化的内容或商品推荐 广告 一种商业信息传播手段，通过多种渠道和形式向目标受众传递信息，其中搜索和推荐广告分别利用搜索和推荐技术来实现精准投放，将用户流量变现 ## 搜推广加速套件 了解详情 [了解详情](https://www.hikunpeng.com/boostkit/boost-x/sra) 鲲鹏召回算法库 鲲鹏推理加速套件 鲲鹏AI算子库 鲲鹏检索算子库 TensorFlow Serving线程调度优化 TensorFlow Serving ANNC特性 鲲鹏召回算法库 鲲鹏推理加速套件 鲲鹏AI算子库 鲲鹏检索算子库 TensorFlow Serving线程调度优化 TensorFlow Serving ANNC特性 ... 鲲鹏召回算法库 鲲鹏召回算法库SRA_Recall是华为提供的基于鲲鹏平台优化的召回算法库。 KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss ... 4.5 KBest（Kunpeng Blazing-fast embedding similarity search thruster）鲲鹏图检索算法，是鲲鹏自研的高效的图检索算法。通过量化、向量指令等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 下载软件包查看文档 [了解详情](https://www.hikunpeng.com/document/detail/zh/boostsra/krecall/kbest/docs/zh/kbest/README.md)历史版本下载 [了解详情](https://www.hikunpeng.com/developer/download?zhTitle=搜推广&zhSubTitle=KBest) 功能特性 提供对标开源Faiss HNSW算法的检索能力 关键技术 采用鲲鹏硬件的向量化指令、量化等技术 使用场景 网络搜索、多模态搜索、推荐系统和RAG等场景 鲲鹏召回算法库 鲲鹏召回算法库SRA_Recall是华为提供的基于鲲鹏平台优化的召回算法库。 KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss ... 4.5 KBest（Kunpeng Blazing-fast embedding similarity search thruster）鲲鹏图检索算法，是鲲鹏自研的高效的图检索算法。通过量化、向量指令等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 下载软件包查看文档 [了解详情](https://www.hikunpeng.com/document/detail/zh/boostsra/krecall/kbest/docs/zh/kbest/README.md)历史版本下载 [了解详情](https://www.hikunpeng.com/developer/download?zhTitle=搜推广&zhSubTitle=KBest) 功能特性 提供对标开源Faiss HNSW算法的检索能力 关键技术 采用鲲鹏硬件的向量化指令、量化等技术 使用场景 网络搜索、多模态搜索、推荐系统和RAG等场景 鲲鹏召回算法库 鲲鹏召回算法库SRA_Recall是华为提供的基于鲲鹏平台优化的召回算法库。 KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss ... 4.5 KBest（Kunpeng Blazing-fast embedding similarity search thruster）鲲鹏图检索算法，是鲲鹏自研的高效的图检索算法。通过量化、向量指令等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 下载软件包查看文档 [了解详情](https://www.hikunpeng.com/document/detail/zh/boostsra/krecall/kbest/docs/zh/kbest/README.md)历史版本下载 [了解详情](https://www.hikunpeng.com/developer/download?zhTitle=搜推广&zhSubTitle=KBest) 功能特性 提供对标开源Faiss HNSW算法的检索能力 关键技术 采用鲲鹏硬件的向量化指令、量化等技术 使用场景 网络搜索、多模态搜索、推荐系统和RAG等场景 鲲鹏召回算法库 鲲鹏召回算法库SRA_Recall是华为提供的基于鲲鹏平台优化的召回算法库。 KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss ... 4.5 KBest（Kunpeng Blazing-fast embedding similarity search thruster）鲲鹏图检索算法，是鲲鹏自研的高效的图检索算法。通过量化、向量指令等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 下载软件包查看文档 [了解详情](https://www.hikunpeng.com/document/detail/zh/boostsra/krecall/kbest/docs/zh/kbest/README.md)历史版本下载 [了解详情](https://www.hikunpeng.com/developer/download?zhTitle=搜推广&zhSubTitle=KBest) 功能特性 提供对标开源Faiss HNSW算法的检索能力 关键技术 采用鲲鹏硬件的向量化指令、量化等技术 使用场景 网络搜索、多模态搜索、推荐系统和RAG等场景 鲲鹏召回算法库 鲲鹏召回算法库SRA_Recall是华为提供的基于鲲鹏平台优化的召回算法库。 KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss ... 4.5 KBest（Kunpeng Blazing-fast embedding similarity search thruster）鲲鹏图检索算法，是鲲鹏自研的高效的图检索算法。通过量化、向量指令等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 下载软件包查看文档 [了解详情](https://www.hikunpeng.com/document/detail/zh/boostsra/krecall/kbest/docs/zh/kbest/README.md) 功能特性 提供对标开源Faiss HNSW算法的检索能力 关键技术 采用鲲鹏硬件的向量化指令、量化等技术 使用场景 网络搜索、多模态搜索、推荐系统和RAG等场景 鲲鹏召回算法库 鲲鹏召回算法库SRA_Recall是华为提供的基于鲲鹏平台优化的召回算法库。 KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss KBest KScaNN KVecturbo KNewPfordelta hnswlib Faiss ... 4.5 KBest（Kunpeng Blazing-fast embedding similarity search thruster）鲲鹏图检索算法，是鲲鹏自研的高效的图检索算法。通过量化、向量指令等方法优化了最近邻搜索的性能和精度，用于多维向量近似最近邻搜索。 下载软件包查看文档 [了解详情](https://www.hikunpeng.com/document/detail/zh/boostsra/krecall/kbest/docs/zh/kbest/README.md) 功能特性 提供对标开源Faiss HNSW算法的检索能力 关键技术 采用鲲鹏硬件的向量化指令、量化等技术 使用场景 网络搜索、多模态搜索、推荐系统和RAG等场景 ## 开源使能 分类 框架 模型 召回 | 组件 | 版本号 | 操作系统 | 源码包获取 | 移植指南 | | --- | --- | --- | --- | ---| | oneDNN | 3.3.3 | openEuler 22.03 LTS SP3 | v3.3.3.tar.gz | oneDNN 移植指南 | | PyTorch | 2.1.2 | openEuler 22.03 LTS SP3 | v2.1.2.tar.gz | PyTorch 移植指南 | | TensorFlow | 1.15.52.13.0 | openEuler 22.03 LTS SP3 | v2.13.0.zipv1.15.5.zip | TensorFlow 移植指南 | | TensorFlow Serving | 2.15.0 | openEuler 22.03 LTS SP3 | 2.15.0-rc0.tar.gz | TensorFlow Serving推理部署框架 移植指南 | | TVM | 0.9.0 | openEuler 22.03 LTS SP3 | apache-tvm-src-v0.9.0.tar.gz | TVM 移植指南 | | ONNX Runtime | 1.19.2 | openEuler 22.03 LTS SP3 | rel-1.19.2.zip | ONNX Runtime 移植指南 | ## 性能评估 分类 排序模型 | 组件 | 版本号 | 操作系统 | 源码包获取 | 测试指导 | | --- | --- | --- | --- | ---| | 搜推模型推理性能Benchmark | 1.0.0 | openEuler 22.03 LTS SP3 | - | 测试指导 | ## 获取开发支持与帮助 鲲鹏论坛提供鲲鹏BoostKit搜推广使能套件移植调优技术讨论、优秀实践 [了解详情](https://www.hikunpeng.com/forum/forum-0187135482144798002-1.html?filterCondition=1&topicClassId=0697172979166555001) 鲲鹏BoostKit搜推广文档由浅入深，带您玩转鲲鹏BoostKit搜推广使能套件 [了解详情](https://www.hikunpeng.com/document/detail/zh/SRA/overview/kunpengsra.html)