使用DeepSeek与Dify搭建本地知识库指南
构建本地知识库的新选择,DeepSeek+Dify组合,性能与隐私兼顾! 之前聊过用 DeepSeek + Cherry 搭建本地知识库,基础功能够用,但文件上传限制不少,个性化定制空间也有限。今天换个思路,看看 DeepSeek + Dify 这个组合怎么玩。 Dify 本身也是一个开源的 AI
构建本地知识库的新选择,DeepSeek+Dify组合,性能与隐私兼顾!
之前聊过用 DeepSeek + Cherry 搭建本地知识库,基础功能够用,但文件上传限制不少,个性化定制空间也有限。今天换个思路,看看 DeepSeek + Dify 这个组合怎么玩。
Dify 本身也是一个开源的 AI 应用开发平台,支持完整的私有化部署方案。把本地部署的 DeepSeek 服务无缝集成到 Dify 平台上,企业可以在确保数据隐私的前提下,在本地服务器里构建能力更强的 AI 应用。
那么,私有化部署方案到底好在哪儿?
- 性能卓越:对话交互体验可以媲美商业模型,流畅度有保障。
- 环境隔离:完全离线运行,数据外泄的风险可以降到最低。
- 数据可控:所有数据资产都在自己手里,合规要求也能满足。
前置准备
动手之前,先确认硬件和软件环境是否到位。
硬件环境:
- CPU >= 2 Core
- 显存/RAM ≥ 16 GiB(推荐)
软件环境:
- Docker
- Docker Compose
- Dify 社区版
开始部署
1. 安装 Dify
先从仓库拉取 Dify 代码:
git clone https://github.com/langgenius/dify.git # 如果速度太慢,可以用这个 gitee 镜像 git clone https://gitee.com/dify_ai/dify cd dify/docker cp .env.example .env # 创建配置文件
更新上传文件大小配置(非必须)
默认情况下,上传图片上限 10MB,视频 100MB,文件 50MB。如果需要调整,打开刚才复制出来的 .env 文件,找到下面这些参数修改即可:
# Upload image file size limit, default 10M. UPLOAD_IMAGE_FILE_SIZE_LIMIT=10 # Upload video file size limit, default 100M. UPLOAD_VIDEO_FILE_SIZE_LIMIT=100 # Upload audio file size limit, default 50M. UPLOAD_AUDIO_FILE_SIZE_LIMIT=50
启动 Dify
docker compose up -d # 如果版本是 Docker Compose V1,使用以下命令: docker-compose up -d
如果 Docker 拉取镜像太慢,可以配置镜像加速地址,加到 Docker 配置文件的 registry-mirrors 里:
"registry-mirrors": [ "https://hub.rat.dev", "https://dockerhub.icu", "https://docker.wanpeng.top", "https://register.librax.org" ]
访问 Dify
设置管理员并登录。Dify 社区版默认使用 80 端口,本地访问:
http://localhost/install
登录后就能看到 Dify 的控制界面了。
2. 将 DeepSeek 接入至 Dify
接入在线 API 模型配置
如果本地没有部署 DeepSeek,可以先通过在线 API 接入。设置好 API Key 后,可以看到模型列表里有很多选择。
接入本地部署的 DeepSeek
如果本地已经部署了 DeepSeek,直接接入本地的模型即可。点击 Dify 平台右上角头像 → 设置 → 模型供应商,选择 Ollama,点击安装。这里用 Ollama 客户端,前提是本地已经部署了 DeepSeek,Base URL 填写 http://本机IP:11434 即可。
添加向量模型
点击保存,模型就配置好了。
最终系统模型设置
配置完成后,在系统模型设置里选择即可。
到这里,DeepSeek 就成功接入到 Dify 了。
知识库
创建知识库
来到知识库页面,开始创建。
分段选择
Dify 的分段功能有个很实用的地方:设置分段后可以实时预览,根据预览效果随时调整分段策略。对于首次创建知识库,建议使用父子分段模式。
通用模式
系统按照用户自定义的规则将内容拆分为独立的分段。当用户输入问题后,系统自动分析问题中的关键词,并计算关键词与知识库中各内容分段的相关度。根据相关度排序,选取最相关的内容分段并发送给 LLM,辅助其处理与更有效地回答。
在该模式下,需要根据不同的文档格式或场景要求,手动设置文本的分段规则:
- 分段标识符,默认值为
\n,即按照文章段落进行分块。 - 分段最大长度,指定分段内的文本字符数最大上限,超出该长度时将强制分段。默认值为 500 Tokens,上限 4000 Tokens。
- 分段重叠长度,指的是在对数据进行分段时,段与段之间存在一定的重叠部分。这种重叠可以帮助提高信息的保留和分析的准确性,提升召回效果。建议设置为分段长度 Tokens 数的 10-25%。
- 文本预处理规则,过滤知识库内部分无意义的内容。提供以下选项:
- 替换连续的空格、换行符和制表符
- 删除所有 URL 和电子邮件地址
父子模式
与通用模式相比,父子模式采用双层分段结构来平衡检索的精确度和上下文信息,让精准匹配与全面的上下文信息二者兼得。
其中,父区块(Parent-chunk)保持较大的文本单位(如段落),提供丰富的上下文信息;子区块(Child-chunk)则是较小的文本单位(如句子),用于精确检索。系统首先通过子区块进行精确检索以确保相关性,然后获取对应的父区块来补充上下文信息,从而在生成响应时既保证准确性又能提供完整的背景信息。你可以通过设置分隔符和最大长度来自定义父子区块的分段方式。
其基本机制包括:
- 子分段匹配查询:
- 将文档拆分为较小、集中的信息单元(例如一句话),更加精准地匹配用户所输入的问题。
- 子分段能快速提供与用户需求最相关的初步结果。
- 父分段提供上下文:
- 将包含匹配子分段的更大部分(如段落、章节甚至整个文档)视作父分段并提供给 LLM。
- 父分段能为 LLM 提供完整的背景信息,避免遗漏重要细节,帮助 LLM 输出更贴合知识库内容的回答。
选择父子模式后,可以看一下预览效果——与通用模式相比,区别不算特别明显,但底层逻辑差异不小。
继续选择索引方式和检索设置,这里都采用推荐设置。这样知识库就创建成功了,等待嵌入处理完成即可。
使用
创建应用
点击工作室,可以看到 Dify 提供了很多应用类型:聊天助手、Agent、工作流等。先选最简单的——聊天助手,点击进入。
添加知识库
创建好应用后,在应用设置里添加知识库。点击召回设置,将 Score 阈值设为 0.7,这是文本片段的相似度门槛,低于这个分数就不会被召回。
调试与预览
配置完成后,可以在调试界面测试效果。满意后直接发布,返回工作室就能看到刚刚创建的应用了。
总结
DeepSeek + Dify 的知识库构建能力确实很强,多种分段索引模式可选,里面还有不少值得深挖的东西。后续会慢慢整合更新,持续优化这个组合的使用体验。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:使用DeepSeek与Dify搭建本地知识库指南要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点最近留意到一款AI聊天机器人构建工具——Craftman,它的核心思路很有意思:让企业或个人能用自己已有的数据来训练ChatGPT,然后直接嵌入到网站上做智能客服或问答助手。简单来说,就是把通用大模型变成你的专属知识库响应系统。什么是Craftman?Craftman是一个AI聊天机器人构建平台,允
如果告诉你,现在借助AI技术就能一键生成时长16秒、分辨率达1080P的高清视频,并且画面流畅自然、物理规律真实可信,你是不是觉得有些不可思议?事实上,这就是Vidu——由中国生数科技与清华大学联合打造的全球首个长时长、高一致性、高动态性视频大模型。它采用独创的Diffusion与Transform
想象一下,你拥有一个庞大而复杂的知识库,里面堆满了各类文档、PDF文件以及YouTube视频教程。过去想要查找某份资料,往往需要翻遍目录、反复尝试关键词搜索,效率低下令人困扰。如今,借助Hansei这款知识库管理工具,一切变得轻松高效——你只需像与朋友聊天一样,用自然语言提出需求,AI助手就能从你的
Blinkn是基于ChatGPT的智能电商购物助手,具备语义理解、精准产品推荐与比较、多语言支持等功能,可与主流平台无缝集成并个性化定制,提供7×24小时实时客服,高效解决购物疑问,显著减少决策摩擦,提升转化率与用户体验。
- 日榜
- 周榜
- 月榜
热点快看
