本地部署AI大模型DeepSeek

1、前言

在刚刚过去的春节假期，AI界可一点都不平静，一款来自中国的AI应用 DeepSeek，如同横空出世的黑马，迅速在全球范围内掀起了波澜。先是在美区App Store免费榜中力压ChatGPT，成功登顶，成为无数用户追捧的对象；而后又引发了美国科技股的剧烈震荡，英伟达市值一夜之间蒸发数千亿美元，整个科技板块都因之而颤抖。这一系列令人咋舌的事件，让DeepSeek这个名字，瞬间成为了全球AI领域的焦点。

DeepSeek是一家专注于人工智能技术的公司（中国杭州深度求索）及其推出的大语言模型的名称。从诞生之初就怀揣着推动人工智能技术发展的宏大愿景，致力于开发先进的大语言模型（LLM）和相关技术，在短短一年多的时间里，便在竞争激烈的AI领域崭露头角。

DeepSeek的核心产品，是一系列强大的大语言模型。这些模型具备极为出色的自然语言处理能力，就像是一位知识渊博、反应敏捷的超级助手，能够轻松理解人类语言中复杂的语义和语境，无论是日常的聊天对话，还是专业性极强的学术讨论，它都能对答如流。它能理解并回答各种问题，无论是历史文化、科学技术，还是生活常识，都难不倒它；它还能辅助写代码，帮助程序员们提高开发效率，快速解决编程过程中遇到的难题；整理资料时，它能迅速从海量信息中提取关键内容，进行高效的归纳总结；面对复杂的数学问题，它也能凭借强大的算法和逻辑推理能力，给出准确的解答。

官方网址：

https://www.deepseek.com/

本篇讲解如何快速的在本地部署AI大模型DeepSeek。

2、本地部署DeepSeek

1、首先要下载安装Ollama。

什么是Ollama？

Ollama是一个开源的大型语言模型本地部署框架。

特点：

多平台支持，如Windows、macOS、Linux，还支持Docker，方便跨平台部署。

丰富的模型库，搜集了大量开源LLM模型，涵盖文本分析、图像处理等多种任务的模型。

功能：

模型管理，能方便地下载、更新、删除和列出各种语言模型。

本地运行，让用户可在本地设备上运行大型语言模型，无需网络连接也能使用部分功能。

官方网址：

https://ollama.com/

快速上手使用大语言模型。

在本地运行Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2等模型。

根据所属平台，下载指定的Ollama。

安装Ollama，安装完成后，打开命令行，输入ollama，可以看到安装成功，即可输入指定的操作指令。

2、搜索并安装DeepSeek模型。

搜索大语言模型：

https://ollama.com/search

可以看到DeepSeek-R1。

深度求索（DeepSeek）的第一代推理模型，性能与OpenAI-o1相当，其中包括六个基于Llama和通义千问（Qwen）从DeepSeek-R1提炼而来的稠密模型。

根据实际情况，选择不同的模型参数，这里作者选择了1.5b，即为该模型具有15亿个参数。

命令行输入安装与运行命令即可。

ollama run deepseek-r1:1.5b

安装过程中。

安装完成后，就可以提问了。

在命令行操作不易于使用，接下来需要集成到页面里。

3、安装人工智能界面Open WebUI。

Open WebUI是一个可扩展、功能丰富且用户友好的自托管人工智能平台，设计为完全离线运行。它支持多种大语言模型运行程序，如Ollama和兼容OpenAI的应用程序编程接口（API），还内置了用于检索增强生成（RAG）的推理引擎，使其成为一个强大的人工智能部署解决方案。

官方网址：

https://openwebui.com/

使用Docker（默认配置）安装Open WebUI

前提为已安装Ollama，使用以下命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装完成后，可以通过http://localhost:3000访问Open WebUI。

创建管理员账号。

加载完成后，就可以开始使用了。

可以直接在页面上进行提问与搜索操作。

离线状态下，模型回复的数据信息有些局限或不准，可以开启联网搜索，保证回复信息更加全面与准确。打开设置，开启联网搜索即可。

联网搜索模式下，进行提问等操作，DeepSeek回复的信息就更加全面了。