环境配置
在性能测试前,需要确保使用环境均满足要求,包括硬件和软件配置。硬件配置包括CPU。软件配置包括操作系统和应用程序等。
操作系统要求
操作系统要求如表2所示。
软件要求
软件要求如表3所示。
项目 |
版本 |
说明 |
构建方式 |
---|---|---|---|
TensorFlow Serving |
2.15 |
提供推理服务的服务端。 |
源码构建 |
TensorFlow |
1.15.5 |
训练模型。 |
源码构建 |
Python |
3.7 |
Python是一种高级、通用、解释型、面向对象的编程语言。 |
通过Yum源方式安装 |
CMake |
3.22.0 |
CMake 3.22.0及以上。 |
通过Yum源方式安装 |
GCC/G++ |
10.3.1 |
GCC(GNU Compiler Collection)GNU编译器套件,由GNU开发的编程语言编译器。 |
通过Yum源方式安装 |
Bazel |
0.26.0 |
快速且可扩展的构建工具。编译TensorFlow 1.15.5依赖Bazel 0.26.0版本。 |
源码构建 |
Bazel |
6.5.0 |
快速且可扩展的构建工具。编译TensorFlow Serving 2.15依赖Bazel 6.5.0版本。 |
源码构建 |
TritonServer |
24.05 |
压测工具。 |
Docker镜像拉取 |
Git |
无版本要求 |
代码管理工具 |
通过Yum源方式安装 |