开发者
我要评分
获取效率
正确性
完整性
易理解
在线提单
论坛求助

25.1.RC1

表1 25.1.RC1版本配套发布特性及文档

特性

文档

说明

鲲鹏召回算法库

鲲鹏BoostKit搜推广使能套件 鲲鹏召回算法库 特性文档

  • KBest算法性能优化;新增SetEarlyStoppingParams接口,修改Add接口和构造函数KBest。
  • KScaNN算法性能优化;新增实现对接Milvus使用。

鲲鹏推理加速套件

鲲鹏BoostKit搜推广使能套件 鲲鹏推理加速套件 特性文档

新增KONNX子库。

鲲鹏推理AI算子库

鲲鹏BoostKit搜推广使能套件 鲲鹏推理AI算子库 特性文档

  • 新增Pool、Batch Normalization(bnormal)、Local Response Normalization(lrn)、Reduction、PReLU、Binary、RNN深度神经网络算子的鲲鹏平台支持。
  • 新增支持鲲鹏920新型号 72F8处理器。

TensorFlow Serving线程调度优化

鲲鹏BoostKit搜推广使能套件 TensorFlow Serving线程调度优化 特性文档

TensorFlow Serving线程调度优化特性是鲲鹏针对高并发场景下,TensorFlow多Session共享算子间线程池严重降低整图计算效率问题提出的优化方案。通过改进算子调度算法,并加入了线程管理优化,有效提升高并发场景下的模型推理吞吐量。