环境要求

本文档安装环境以openEuler 24.03 LTS SP3 +SGLang 0.5.10 + CUDA 13.0为例。除此之外，本节介绍了鲲鹏服务器上安装SGLang可支持的其他环境信息。

可支持的版本

表1 版本范围
OS版本	Python版本	支持的SGLang版本范围
openEuler 24.03 LTS SP3	Python 3.11.6	SGLang 0.5.10
openEuler 22.03 LTS SP4	Python 3.9.9	SGLang <=0.5.0rc0；建议SGLang 0.5.0rc0

SGLang 0.5.10要求Python >=3.10。openEuler 22.03 LTS SP4默认Python 3.9.9不满足该版本要求，建议使用官方仍支持Python 3.9的SGLang 0.5.0rc0。

依赖组件要求

表2 依赖组件要求对应的版本
组件	版本
python3	3.11.6-20.oe2403sp3
python3-pip	23.3.1-7.oe2403sp3
pip	26.1.1
PyTorch	2.11.0 CUDA版本
CUDA Toolkit	13.0
sglang-kernel	0.4.1
SGLang	0.5.10

启用GPU能力时，系统需要提供可访问的NVIDIA GPU设备、CUDA Toolkit 13.0，以及CUDA版本的PyTorch。SGLang GPU推理路径由SGLang主Python包和sglang-kernel CUDA扩展共同组成：SGLang主Python包提供运行时框架、接口和调度逻辑，sglang-kernel提供GPU推理相关的高性能算子能力。面向GPU场景安装时，建议同时安装并验证两者。