环境要求
本文档源码构建验证环境以openEuler 24.03 LTS SP3 + SGLang 0.5.10 + CUDA 13.0为例。除此之外，本节介绍了源码构建验证可支持的其他环境信息。
可支持的版本
OS版本 |
Python版本 |
支持的SGLang版本范围 |
|---|---|---|
openEuler 24.03 LTS SP3 |
Python 3.11.6 |
SGLang 0.5.10 |
openEuler 22.03 LTS SP4 |
Python 3.9.9 |
SGLang <=0.5.0rc0；建议SGLang 0.5.0rc0 |
SGLang 0.5.10要求Python >=3.10。openEuler 22.03 LTS SP4默认Python 3.9.9不满足该版本要求，建议使用官方仍支持Python 3.9的SGLang 0.5.0rc0。
依赖组件要求
组件 |
版本 |
|---|---|
python3 |
3.11.6-20.oe2403sp3 |
python3-pip |
23.3.1-7.oe2403sp3 |
python3-devel |
3.11.6-20.oe2403sp3 |
GCC |
12.3.1-105.oe2403sp3 |
GCC-Gc++ |
12.3.1-105.oe2403sp3 |
make |
4.4.1-2.oe2403sp3 |
CMake |
3.27.9-8.oe2403sp3 |
Git |
2.43.0-10.oe2403sp3 |
openblas-devel |
0.3.29-1.oe2403sp3 |
numactl-devel |
2.0.16-14.oe2403sp3 |
Rust |
1.90.0-2.oe2403sp3 |
cargo |
1.90.0-2.oe2403sp3 |
pip |
26.1.1 |
setuptools |
82.0.1 |
wheel |
0.47.0 |
Ninja |
1.13.0 |
scikit-build-core |
0.12.2 |
PyTorch |
2.11.0 CUDA版本 |
CUDA Toolkit |
13.0 |