Linux平台Ollama安装与手动版本升级

1.前言

Ollama 是本地部署大型语言模型（如 gpt-oss、Gemma 3、DeepSeek-R1、Qwen3 等）最便捷的方式之一，这一观点在社区中获得了广泛认可。

本文将详细介绍在 Linux 环境下安装与升级 Ollama 的具体步骤，操作系统选用 Ubuntu 22.04.4 LTS。

首次接触 Ollama 是从 0.3.11 版本开始的，距今大约一年有余。当前最新版本已迭代至 0.19.0，为了支持最新的模型，必须进行版本升级，因此在此记录完整的操作流程。

2.安装

安装过程非常简洁，官方提供的命令仅需一行：

curl -fsSL https://ollama.com/install.sh | sh

该命令的成功执行依赖稳定的网络环境。一旦网络出现波动或中断，安装极易卡顿甚至失败。

由于需要访问外网资源，更为稳妥的方法是先将安装包下载至本地，再手动完成安装，从而彻底规避网络导致的异常问题。

3.手动安装

Ollama 官方同样提供了手动安装命令：

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst 
    | sudo tar x -C /usr

这条命令本质上仍是在线下载，并将解压步骤合并执行，因此相同的网络瓶颈依然存在。

建议的做法是：提前访问 Ollama 的 GitHub 发布页面（https://github.com/ollama/ollama/releases），手动下载对应系统的软件包至本地。注意，该过程需要科学上网环境。

特别说明：本次部署使用的是 NVIDIA 显卡，因此选择下载 ollama-linux-amd64.tar.zst 版本。不同显卡及系统架构对应的包名有所区别，下载时请务必核对清楚。

下载完成后，通过手动解压完成安装：

sudo tar --zstd -xvf 自己下载的路径/ollama-linux-amd64.tar.zst -C /usr

安装完毕后，可通过以下方式验证：

• 启动服务：ollama serve
• 在另一个终端确认运行状态：ollama -v

3.1 添加 Ollama 作为启动服务

为了实现开机自启，需要创建专用的系统用户和用户组：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

然后创建服务文件 /etc/systemd/system/ollama.service：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target

接下来，将其设置为系统服务：

sudo systemctl daemon-reload
sudo systemctl enable ollama

最后启动服务并确认状态：

sudo systemctl start ollama
sudo systemctl status ollama

完成以上操作后，Ollama 将在系统启动时自动运行。

3.2 配置 Ollama 服务器

由于 Ollama 以 systemd 服务方式运行，环境变量可通过 systemctl 进行配置。

1. 执行 systemctl edit ollama.service 打开编辑界面。
2. 在 [Service] 部分添加所需的 Environment 行：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_NUM_PARALLEL=20"
Environment="OLLAMA_MAX_LOADED_MODELS=3"
Environment="OLLAMA_KEEP_ALIVE=5m"
[Install]
WantedBy=default.target

这些配置项的作用简要说明如下：

• OLLAMA_HOST：指定服务监听的 IP 地址和端口，设为 0.0.0.0:11434 表示允许所有网络接口访问。
• OLLAMA_ORIGINS：跨域来源许可，设为 * 表示全部放行。
• OLLAMA_NUM_PARALLEL：每个模型允许的最大并发请求数，设为 20 以应对高并发场景。
• OLLAMA_MAX_LOADED_MODELS：最多同时加载 3 个模型，防止内存溢出。
• OLLAMA_KEEP_ALIVE：模型保持活跃的时间，设为 5 分钟，避免频繁加载与卸载。

3. 保存后退出编辑器。
4. 重新加载配置并重启服务：

systemctl daemon-reload
systemctl restart ollama

4.版本升级

升级 Ollama 的步骤相对简单，核心思路是：先删除旧库文件，再下载新版软件包并重新安装。

首先移除旧库：

sudo rm -rf /usr/lib/ollama

接着手动下载目标版本的软件包，解压安装：

sudo tar --zstd -xvf 自己下载的路径/ollama-linux-amd64.tar.zst -C /usr

最后重启 Ollama 服务，新版本即可生效。

5.查看日志

若遇到问题需要诊断，可运行以下命令查看日志：

journalctl -e -u ollama

该命令将输出完整的运行记录，便于快速定位异常。

6.卸载

如需彻底卸载 Ollama，需依次清理服务、库文件、二进制文件、模型数据、用户及用户组。

首先停止服务并禁用自启：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

然后移除库文件（注意路径可能因系统而异，常见位置包括 /usr/local/lib、/usr/lib 或 /lib）：

sudo rm -r $(which ollama | tr 'bin' 'lib')

接着删除二进制文件（可能位于 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

最后清理用户、组和模型数据：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

执行上述命令时务必确认路径正确，避免误删系统关键文件。