开发验证
执行以下命令进行验证。
1 2 3 4 5 6 7 8 9 10 11 | python3 - <<'PY' import vllm import torch print("vllm_version=" + vllm.__version__) print("torch_version=" + torch.__version__) print("torch_cuda=" + str(torch.version.cuda)) print("cuda_built=" + str(torch.backends.cuda.is_built())) print("cuda_available=" + str(torch.cuda.is_available())) assert vllm.__version__ == "0.18.1" assert torch.backends.cuda.is_built() assert torch.cuda.is_available() PY |
预期输出如下信息:
1 2 3 4 | vllm_version=0.18.1 torch_cuda=13.0 cuda_built=True cuda_available=True |
父主题: 开发指南