环境要求
本文档以openEuler 24.03 LTS SP3 + vLLM 0.18.1 + CUDA 13.0版本为例进行GPU路径源码构建验证。除此之外，本节介绍了源码构建验证可支持的其他环境信息。
可支持的版本
OS版本 |
Python版本 |
支持的vLLM版本范围 |
|---|---|---|
openEuler 24.03 LTS SP3 |
Python 3.11.6 |
vLLM 0.18.1 |
openEuler 22.03 LTS SP4 |
Python 3.9.9 |
vLLM <=0.11.x；建议vLLM 0.11.0 |
vLLM 0.18.x面向较新的Python版本。openEuler 22.03 LTS SP4默认Python 3.9.9不适合作为vLLM 0.18.x的默认构建环境，建议使用官方仍支持Python 3.9的vLLM 0.11.0。
依赖组件要求
组件 |
版本 |
|---|---|
python3 |
3.11.6-20.oe2403sp3 |
python3-pip |
23.3.1-7.oe2403sp3 |
python3-devel |
3.11.6-20.oe2403sp3 |
GCC |
12.3.1-105.oe2403sp3 |
GCC-C++ |
12.3.1-105.oe2403sp3 |
make |
4.4.1-2.oe2403sp3 |
CMake |
3.27.9-8.oe2403sp3 |
Git |
2.43.0-10.oe2403sp3 |
openblas-devel |
0.3.29-1.oe2403sp3 |
Ninja |
1.13.0 |
pip |
26.1.1 |
setuptools |
82.0.1 |
wheel |
0.47.0 |
PyTorch |
2.11.0 CUDA版本 |
CUDA Toolkit |
13.0 |
vLLM |
0.18.1 |
父主题： 开发前准备