鲲鹏服务器Ubuntu22.04系统安装ollama
原创
1. 环境准备与依赖安装
bash
运行
2. 一键安装(推荐)
bash
运行
✅ 脚本会自动完成:下载 ARM64 二进制包 → 安装到系统路径 → 创建 systemd 服务 → 配置开机自启。
3. 手动安装(脚本失败时用)
bash
运行
4. 服务管理与验证
bash
运行
5. 运行第一个模型
bash
运行
6. 常见问题与优化
表格
7. 升级 Ollama
bash
运行
核心说明
- 鲲鹏 ARM64 需用
ollama-linux-arm64.tgz,避免误装 x86_64 包导致无法运行。 - 官方脚本已原生支持 ARM64,优先用一键安装,省心且自动配置服务。
- 模型建议选择 Qwen2.5:0.5b/1.8b 等轻量款,纯 CPU 也能流畅运行;如需更强性能,可搭配 AMD 显卡用 ROCm 加速。
1. 环境准备与依赖安装
bash
运行
2. 一键安装(推荐)
bash
运行
✅ 脚本会自动完成:下载 ARM64 二进制包 → 安装到系统路径 → 创建 systemd 服务 → 配置开机自启。
3. 手动安装(脚本失败时用)
bash
运行
4. 服务管理与验证
bash
运行
5. 运行第一个模型
bash
运行
# 拉取轻量中文模型(Qwen2.5 适配 ARM64,性能友好) ollama pull qwen2.5:0.5b # 启动模型对话 ollama run qwen2.5:0.5b # 测试请求(API 方式) curl http://localhost:11434/api/generate -d '{ "model": "qwen2.5:0.5b", "prompt": "你好,鲲鹏服务器上的 Ollama 运行正常吗?" }'6. 常见问题与优化
表格
curl -L https://gh.llkk.cc/https://github.com/ollama/ollama/releases/latest/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgzexport OLLAMA_MAX_LOADED_MODELS=1export OLLAMA_MAX_MEMORY="4GB"sudo ufw allow 11434/tcpsudo vim /etc/systemd/system/ollama.serviceEnvironment="OLLAMA_HOST=0.0.0.0:11434"7. 升级 Ollama
bash
运行
核心说明
ollama-linux-arm64.tgz,避免误装 x86_64 包导致无法运行。