环境配置
在执行安装步骤前需要安装对应版本的依赖组件。
- 安装系统依赖。
1 2 3 4
dnf install -y \ --setopt=install_weak_deps=False \ --setopt=tsflags=nodocs \ python3-pip openblas-devel
- 安装CUDA版本的PyTorch。
- 方式一:使用官方预编译wheel。
1python3 -m pip install --index-url https://download.pytorch.org/whl/cu130 torch==2.11.0+cu130
- 方式二:使用本地构建wheel,替换为实际wheel文件路径。
1python3 -m pip install --force-reinstall /path/to/torch-2.11.0+cu130-*.whl
安装CUDA版本的PyTorch以上两种方式二选一:可以使用PyTorch官方发布的、与CUDA版本匹配的预编译wheel,也可以使用已在当前环境验证通过的本地构建CUDA wheel。无论选择哪种来源,继续源码构建SGLang前都必须确认torch.backends.cuda.is_built()和torch.cuda.is_available()均为True。
- 方式一:使用官方预编译wheel。
父主题: 安装前准备