国产开源工具支持私有知识库与300种本地模型一键部署

国产开源工具AingDesk，一键搞定本地知识库与300种模型，数据私密性拉满

最近在整理几篇关于RAG应用的文章时，发现评论区不少朋友都在问同一个问题：能否实现全链路本地部署？不光知识库要本地，大模型也得跑在内网，这样才能彻底杜绝数据泄露的风险。说实话，远程调用API虽然方便，但RAG流程里把用户问题和检索到的上下文一起发给大模型，理论上确实存在数据外泄的可能。本地知识库+本地大模型才是真的“安全闭环”。

那为什么一直没出这样的教程？核心痛点就一个：本地部署大模型太折腾。先装Ollama，再配环境，下载模型还得科学上网，速度慢得像蜗牛，对小白极不友好。直到前两天发现一个刚开源的国产工具——AingDesk，目前Star只有635，但体验下来确实惊艳，完美覆盖了大家的需求。

它的几个亮点：

• 开源、免费、无任何限制；
• 不需要额外装Ollama，内置一键安装模型，点一下等下载完成就行，国内下载速度飞快；
• 支持联网、知识库上传几乎所有格式，配置简单但检索准确度很高；
• 支持Windows、Mac一键安装，也支持Docker部署；
• 搭建好的智能体可以一键分享给他人使用。

好，不啰嗦，直接开整！

AingDesk搭建完全私密知识库

接下来在本地搭建一个完全私密的知识库——语言模型、索引模型全都在本地，不依赖任何外网。这次是真的可以断网使用，再也不用担心数据泄露。

友情提示：本期工具不用Docker，下载后一键安装。

先去官网下载AingDesk（目前官网上有各平台安装包），配置要求非常低。选择合适的平台下载，然后傻瓜式安装。

安装好后双击打开，点击左下角“本地模型”，里面躺着300个模型供挑选，包括带视觉的、索引模型、支持工具调用的，甚至能一键安装满血版DeepSeek，当然也支持最强的32B模型QWQ。

接下来搭建知识库，需要索引模型和语言模型。测试电脑配置：显卡8G显存的3060Ti，CPU是AMD Ryzen 7 5800X 8-Core 3.80 GHz，内存32G。本地大模型主要吃显存，有个经验公式：模型所需显存≈模型大小×1.2。选择qwen2.5:14b，大小9G，算下来需要10.8G显存，8G勉强能跑，只是输出会慢一点。索引模型选beg-m3:567m。看这下载速度：134MB/s，没开任何翻跟斗，对国内用户非常友好。

模型到位，开始建知识库。创建知识库时，嵌入模型选刚才下载的beg-m3:567m。上传文件，支持几乎所有类型——先试公众号文章的PDF，19个PDF大约1分半处理完毕。创建智能体（相当于提示词模板），保存后进入对话，右下角勾选知识库。实测小模型里，qwen蒸馏出来的deepseek-r1模型给力，回答没毛病，就是不够详细。

知识库检索准确度非常高，但想要回复更精准，得用更强的语言模型，本地有条件直接上QWQ:32b。

从测试结果看，上传的PDF被解析成markdown格式，内容准确。接着试Excel文件，问答效果也不错，同样被解析成markdown。但上传图片发现目前图片解析还不太行。整体体验下来，创建和使用都非常简单，检索准确度甚至可以媲美FastGPT，而且支持几乎所有文件格式（都解析成markdown）。本地索引模型用小参数量的beg-m3:567m效果就很好，瓶颈在语言模型上。本地算力够的话，强烈推荐QWQ:32b。

配置第三方模型API

以硅基流动为例：点击第三方模型API→硅基流动→配置apikey→保存。API下面会自动搜索出模型。用上面本地8b、14b的小参数模型测试，回答效果确实一般；但换成硅基的DeepSeek V3满血版后，熟悉的感觉回来了，回答既准确又详细。

PS：索引模型还是之前的本地索引模型beg-m3:567m，没变。

联网搜索

设置→默认搜索引擎，全是国内搜索，免费调用。测试一下：搜索“今日热点AI资讯”，它会联网搜索10条内容作为参考。日期25年3月26日，正确，当天刚好出了Mureka O1音乐大模型，给出的热点完全没问题。

一键分享

打开一个对话，点击右上角分享按钮，起个名字，选一个知识库，点击小窗口中的分享，下面会增加一条记录，复制分享链接发给朋友即可。对方打开浏览器就能访问使用。这个分享功能需要本地联网，调用过程通过AingDesk云服务中转，内网穿透访问到本机。网页端可以看到检索的知识库相关资料文件名，但无法获取源文件内容，隐私有保障。

总结

这个工具可以一键安装几乎所有开源大模型，国内下载速度飞快。当知识库和所有模型都在本地时，可以完全离线使用，私密性拉满。创建知识库支持解析几乎所有类型的文件；即便用小参数量的索引模型，检索准确度也非常高。不过项目还在初期，UI比较简陋，没有工具插件和工作流，希望后续能完善。补充一点：该工具不会和本地的Ollama冲突，如果同时开启，它会自动读取Ollama中已安装的模型。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：国产开源工具支持私有知识库与300种本地模型一键部署要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题