源码编译构建
获取Ollama源码,从源码构建CUDA 13加速库和Ollama命令行程序,最后安装本地构建产物。
- 获取Ollama 0.19.0源码。
1 2
git clone --branch v0.19.0 --depth 1 https://github.com/ollama/ollama.git
- 从源码构建CUDA 13加速库。
1 2 3 4 5 6 7 8 9 10
cd ollama export CUDA_HOME=/usr/local/cuda-13.0 export PATH=/usr/local/go/bin:$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH=$CUDA_HOME/lib64:${LD_LIBRARY_PATH:-} cmake -B build --preset "CUDA 13" \ -DCMAKE_CUDA_ARCHITECTURES=80 \ -DCMAKE_CUDA_FLAGS="-t 1" cmake --build build --preset "CUDA 13" --parallel 8 cmake --install build --component CUDA --prefix /tmp/ollama-build
- 从源码构建Ollama命令行程序。
1 2
go build -trimpath -ldflags "-X github.com/ollama/ollama/version.Version=0.19.0" \ -o /tmp/ollama-build/ollama .
- 安装本地构建产物。
1install -m 0755 /tmp/ollama-build/ollama /usr/local/bin/ollama
构建产物示例。
1 2
ollama lib/ollama/cuda_v13/libggml-cuda.so
父主题: 开发指南