Milvus KBest算法优化

应用场景:追求高精度下的高性能。

技术原理:KBest搜索前通过预取参数优化得到当前图结构的最优预取参数,搜索过程中利用图索引预存的入口点快速逼近query,获取query的近邻。同时使用SIMD指令集加速距离计算,搜索结束时进行全/半精度重排以提高排序精度,返回K近邻。

性能指标在16U64G规格上,Milvus-kbest算法在ann-benchmarks Gist数据集且recall值在0.99以上的场景,QPS(Query Per Second,每秒查询数)性能相较于Milvus-hnsw算法可获得30%的提升。

图1 优化特性使能前后性能对比

如何使用:通过patch文件形式提供,该patch补丁基于开源Milvus 2.4.5、Knowhere 2.3.5编译安装部署。