开发者
资源
我要评分
获取效率
正确性
完整性
易理解
在线提单
论坛求助

源码编译构建

获取Ollama源码,从源码构建CUDA 13加速库和Ollama命令行程序,最后安装本地构建产物。

  1. 获取Ollama 0.19.0源码。
    1
    2
    git clone --branch v0.19.0 --depth 1
    https://github.com/ollama/ollama.git
    
  2. 从源码构建CUDA 13加速库。
     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    cd ollama
    export CUDA_HOME=/usr/local/cuda-13.0
    export PATH=/usr/local/go/bin:$CUDA_HOME/bin:$PATH
    export LD_LIBRARY_PATH=$CUDA_HOME/lib64:${LD_LIBRARY_PATH:-}
    
    cmake -B build --preset "CUDA 13" \
      -DCMAKE_CUDA_ARCHITECTURES=80 \
      -DCMAKE_CUDA_FLAGS="-t 1"
    cmake --build build --preset "CUDA 13" --parallel 8
    cmake --install build --component CUDA --prefix /tmp/ollama-build
    
  3. 从源码构建Ollama命令行程序。
    1
    2
    go build -trimpath -ldflags "-X github.com/ollama/ollama/version.Version=0.19.0" \
      -o /tmp/ollama-build/ollama .
    
  4. 安装本地构建产物。
    1
    install -m 0755 /tmp/ollama-build/ollama /usr/local/bin/ollama
    

    构建产物示例。

    1
    2
    ollama 
    lib/ollama/cuda_v13/libggml-cuda.so