开发者
资源
鲲鹏服务器Ubuntu22.04系统安装ollama
鲲鹏服务器Ubuntu22.04系统安装ollama
原创
发表于03/23
9120

1. 环境准备与依赖安装

bash

运行

# 1. 确认架构(确保为 aarch64/arm64)
uname -m
# 输出应显示:aarch64

# 2. 系统更新
sudo apt update && sudo apt upgrade -y

# 3. 安装基础依赖
sudo apt install -y curl git

2. 一键安装(推荐)

bash

运行

# 执行官方安装脚本(自动识别 ARM64 架构)
curl -fsSL https://ollama.com/install.sh | sh

✅ 脚本会自动完成:下载 ARM64 二进制包 → 安装到系统路径 → 创建 systemd 服务 → 配置开机自启。

3. 手动安装(脚本失败时用)

bash

运行

# 1. 下载 ARM64 安装包
curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz

# 2. 解压到 /usr/local(系统级安装)
sudo tar -C /usr/local -xzf ollama-linux-arm64.tgz

# 3. 加入 PATH(若未自动配置)
echo 'export PATH=$PATH:/usr/local/bin' >> ~/.bashrc
source ~/.bashrc

4. 服务管理与验证

bash

运行

# 1. 启动服务
sudo systemctl start ollama

# 2. 设置开机自启
sudo systemctl enable ollama

# 3. 检查服务状态
sudo systemctl status ollama
# 显示 active (running) 即为正常

# 4. 验证安装
ollama --version
# 输出示例:ollama version 0.5.7

5. 运行第一个模型

bash

运行

# 拉取轻量中文模型(Qwen2.5 适配 ARM64,性能友好)
ollama pull qwen2.5:0.5b

# 启动模型对话
ollama run qwen2.5:0.5b

# 测试请求(API 方式)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2.5:0.5b",
  "prompt": "你好,鲲鹏服务器上的 Ollama 运行正常吗?"
}'

6. 常见问题与优化

表格

问题现象解决方法
下载慢 / 超时使用 GitHub 加速:curl -L https://gh.llkk.cc/https://github.com/ollama/ollama/releases/latest/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
内存不足限制模型内存:export OLLAMA_MAX_LOADED_MODELS=1export OLLAMA_MAX_MEMORY="4GB"
外部访问开放 11434 端口:sudo ufw allow 11434/tcp修改服务配置:sudo vim /etc/systemd/system/ollama.service添加环境变量:Environment="OLLAMA_HOST=0.0.0.0:11434"

7. 升级 Ollama

bash

运行

# 重新执行安装脚本即可升级
curl -fsSL https://ollama.com/install.sh | sh

核心说明

  • 鲲鹏 ARM64 需用 ollama-linux-arm64.tgz,避免误装 x86_64 包导致无法运行。
  • 官方脚本已原生支持 ARM64,优先用一键安装,省心且自动配置服务。
  • 模型建议选择 Qwen2.5:0.5b/1.8b 等轻量款,纯 CPU 也能流畅运行;如需更强性能,可搭配 AMD 显卡用 ROCm 加速。

收藏举报
Level 1
0
帖子
0
粉丝
0
获赞