群晖Docker部署AI大模型教程NAS用户指南

在群晖NAS上部署本地大语言模型，是许多用户实现私有化AI助手的理想选择。然而实际操作中，常会遇到容器无法启动或运行无响应的问题。究其原因，主要集中在几个典型环节：Docker镜像拉取中断、容器CPU与内存资源分配不足、端口冲突，以及关键环境变量配置遗漏。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

无需担忧，针对这些常见障碍，我们已梳理出三种经过实测的可靠部署方案。无论您是青睐图形化操作的初学者，还是习惯命令行控制的高级用户，抑或是需要在无外网环境中部署，都能找到对应的解决路径。

一、图形界面部署：Ollama + Llama 2（轻量交互首选）

如果您不熟悉Docker命令，希望通过可视化操作快速搭建，那么使用群晖Container Manager的图形界面是最佳入门方式。此方案尤其适合部署Llama 2-7B等经过量化的轻量级模型，操作直观，门槛较低。

首先，请确认DSM桌面上的Container Manager处于“已启动”状态。随后，按以下步骤操作：

打开Container Manager，进入“注册表”标签页。在搜索框中输入ollama/ollama，定位到官方镜像后，点击“下载”。请注意，此镜像体积较大（约4.5GB），请确保网络连接稳定。

下载完成后，前往“映像”标签页找到该镜像，双击以启动容器创建向导。以下几个配置环节至关重要：

在“卷”设置中，建议添加两个文件夹挂载。第一个映射到/volume1/docker/ollama/models，用于持久化存储下载的模型文件，避免容器删除后模型丢失。第二个映射到/root/.ollama，这是Ollama的默认工作目录，必须确保其可读写权限。

接着配置“端口设置”。容器默认使用11434端口，将其映射到NAS主机的相同端口即可。若该端口已被占用，可更换为11435等其他空闲端口，但需注意后续调用API时需同步修改地址。

“环境”变量是容易忽略的关键。请务必添加一个变量：OLLAMA_HOST=0.0.0.0:11434。此设置旨在让Ollama服务监听所有网络接口并对外提供API。若未设置，可能导致无法从局域网内其他设备访问模型服务。

最后，在“资源限制”设置中，强烈建议取消CPU和内存的使用上限。大语言模型推理时资源消耗较大，若配额不足，极易在运行过程中被系统终止，并抛出OOMKilled错误。为模型容器分配充足的资源，是保障其稳定运行的前提。

二、命令行部署：DeepSeek-R1（精准控制之道）

图形界面虽便捷，但在资源精细控制方面灵活性不足。当您需要绑定特定CPU核心、分配GPU显存，或部署带有特殊参数的模型时，通过SSH使用docker run命令进行部署，才是更专业的选择。此方式特别适合DS923+、DS1821+等支持PCIe扩展的高性能群晖机型。

第一步，需在群晖控制面板中启用SSH服务。路径为“控制面板 > 终端机和SNMP”，勾选“启动SSH功能”，端口通常保持默认的22。

之后，使用PuTTY、Termius等SSH客户端连接到您的NAS，并使用管理员账户登录。为获得完整操作权限，建议执行sudo -i命令切换至root用户。

随后进入命令行部署环节。首先创建专用目录并拉取镜像：

mkdir -p /volume1/docker/deepseek
docker pull ghcr.io/ollama/ollama

最关键的是运行容器的命令。以下示例展示了如何进行精细化控制：

docker run -d --gpus all --cpuset-cpus="0-3" --name deepseek-r1 \
  -v /volume1/docker/deepseek/models:/root/.ollama/models \
  -p 11434:11434 \
  -e OLLAMA_HOST=0.0.0.0:11434 \
  -e OLLAMA_NUMA=1 \
  ollama/ollama

其中，--cpuset-cpus="0-3"参数将容器进程绑定至前4个CPU核心，有助于减少上下文切换，提升推理性能。-e OLLAMA_NUMA=1则启用了NUMA感知，对于多CPU插槽的系统能优化内存访问效率。若您的NAS未配备GPU，可移除--gpus all参数。

容器启动后，需进入其中加载具体模型：

docker exec -it deepseek-r1 ollama run deepseek-r1:1.5b-q4_k_m

执行后，将开始下载模型文件并进行初始化。完成后，可通过以下命令验证服务是否就绪：

curl http://localhost:11434/api/tags

若返回的JSON信息中包含deepseek-r1模型名称，即表明部署成功。

三、离线环境部署：Open WebUI + Llama 2一体包（无网解决方案）

部分NAS部署于严格的内网或隔离环境，无法直接访问Docker Hub。此时，离线部署成为唯一可行的方案。幸运的是，社区提供了预先打包好的“全家桶”镜像，其中集成了Ollama服务、Llama 2模型以及开源的Open WebUI聊天界面，真正做到即导即用。

首先，在一台可访问互联网的计算机上下载此离线镜像包：

wget https://github.com/open-webui/open-webui/releases/download/v0.4.4/open-webui-ollama-llama2-7b-q4k.tar.gz

下载完成后，将此压缩包上传至NAS的某个目录，例如/volume1/docker/imports/（若目录不存在请先行创建）。

随后，通过SSH登录NAS，执行镜像导入命令：

docker load -i /volume1/docker/imports/open-webui-ollama-llama2-7b-q4k.tar.gz

导入成功后，即可运行此一体化容器：

docker run -d -p 3000:8080 -p 11434:11434 \
  -v /volume1/docker/ollama:/root/.ollama \
  --name openwebui-llama2 \
  openwebui/ollama-llama2:latest

此命令将容器的8080端口（WebUI界面）映射到主机的3000端口，同时将Ollama的API端口11434一并映射。通过查看容器日志，可确认模型是否加载成功：

docker logs -f openwebui-llama2 | grep "models/llama2"

当看到“model loaded”等相关提示时，即表示部署完成。最后，打开浏览器，访问http://[您的NAS IP地址]:3000。一个功能完整的本地AI聊天界面将立即呈现，您可以直接开始与本地部署的Llama 2模型对话，无需配置任何复杂的API密钥或后端服务。

总而言之，在群晖NAS上部署大语言模型，关键在于理解各组件的作用与协作方式。上述三种方法，从易到难，覆盖了主流的应用场景。理清配置逻辑，避开常见陷阱，即可让您的NAS拥有一颗随时待命的私有化“AI大脑”。