OpenManus与QwQ32B本地部署指南
想要在本地把 OpenManus 和 QwQ‑32B 跑起来?这篇指南将整个流程——从模型的本地运行到环境搭建、配置调整——一步步拆开细讲,跟着操作下来就能拥有一套属于自己的 AI 运行环境。核心信息包括:QwQ‑32B 的本地部署与 Ollama 配置、OpenManus 的安装与依赖管理、配置文
想要在本地把 OpenManus 和 QwQ‑32B 跑起来?这篇指南将整个流程——从模型的本地运行到环境搭建、配置调整——一步步拆开细讲,跟着操作下来就能拥有一套属于自己的 AI 运行环境。核心信息包括:QwQ‑32B 的本地部署与 Ollama 配置、OpenManus 的安装与依赖管理、配置文件设置与 API 密钥管理,以及如何接入本地模型。

1: 本地运行 QwQ‑32b
先从模型本身入手。如果已经装好了 Ollama,直接一行命令就能拉起来:
ollama run qwq
这一步没什么坑,等待下载完成即可。
2: 安装部署 OpenManus
下载安装包
用 git 把项目拉到本地:
git clone https://github.com/mannaandpoem/OpenManus
环境准备和安装
建议为 OpenManus 单独创建一个 conda 环境,避免与现有库冲突。Python 版本推荐 3.12:
conda create -n open-manus python=3.12
如果默认的 base 环境已经是 Python 3.12.9,直接复用也可以。进入项目目录后先配好 pip 的国内镜像,加速依赖安装:
cd OpenManus
pip config set global.index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
pip install -r requirements.txt
配置说明
OpenManus 需要指定使用哪个 LLM 的 API。操作很简单:在 config 目录下创建 config.toml 文件,可以从示例直接复制:
cp config/config.example.toml config/config.toml
然后编辑 config/config.toml,填入相应的 API 密钥和个性化设置。下面列出几种常见的选择:
deepseek 官方 API‑key 方式
# Global LLM configuration
[llm]
model = "deepseek-reasoner"
base_url = "https://api.deepseek.com/v1"
api_key = "sk-741cd3685f3548d98dba5b279a24da7b"
max_tokens = 8192
temperature = 0.0
# 备注:目前多模态还没有整合,暂时可以不动
# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."
qwq:32b 官方 API‑key 方式
# Global LLM configuration
[llm]
model = "qwq-32b"
base_url = "https://dashscope.aliyuncs.com/compatible-mode/v1"
api_key = "sk-f9460b3a55994f5ea128b2b55637a2b7"
max_tokens = 8192
temperature = 0.0
# 备注:目前多模态还没有整合,暂时可以不动
# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."
model 字段怎么写?如果用的是官方接口,填 qwq-32b;如果是硅基流动申请的 key,则填 Qwen/QwQ-32B;如果是派欧算力申请的,填 qwen/qwq-32b。来源不同,命名规则稍有差异。
启动任务
一切就绪后,运行主程序:
python main.py
输入提示词,控制台不报错就说明环境正常。
3、在 OpenManus 中配置本地模型
如果想直接用本地跑起来的模型,比如通过 Ollama 运行的 QwQ‑32B 或 Qwen2.5‑32B,配置方式和上面略有不同。
QWQ‑32B
由于 QwQ‑32B 的 “think” 过程比较长,默认的超时时间(60 秒)往往不够用,必须把 ask_tool 方法里的 timeout 调大到 600 秒(或更长)。编辑 config/config.toml:
# Global LLM configuration
[llm]
model = "qwq:latest"
base_url = "http://localhost:11434/v1"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0
# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"
注意 model 名称必须与本地 Ollama 中运行的名称完全一致,可以通过 ollama list 确认。这里用的是 qwq:latest。api_key 必须设为 EMPTY,否则启动后会报 API error: Connection error。
保存后启动:
python main.py
Qwen2.5‑32B
类似的,配置只需改模型名称:
# Global LLM configuration
[llm]
model = "qwen2.5:latest"
base_url = "http://localhost:11434/v1"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0
# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"
deepseek
如果本地跑的是 deepseek‑r1:32b,配置如下(注意 base_url 的路径是 /api 而非 /v1):
# Global LLM configuration
[llm]
model = "deepseek-r1:32b"
base_url = "http://localhost:11434/api"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0
# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"
4: 安装浏览器所需组件
如果需要使用浏览相关功能,需要安装 Playwright 的浏览器:
playwright install
这一块暂时还没有深入研究,后续若有更完整的方案再做补充。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:OpenManus与QwQ32B本地部署指南要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点Daetama是面向数据科学面试和SQL能力提升的练习平台,已收录超100个覆盖基础到进阶的SQL题目,求职板块与课程模块在开发中,团队保持每周更新节奏,提供系统性刷题与模拟面试场景。
SpeakMulti是一款AI驱动的配音平台,可将YouTube视频翻译成多种语言,保留原始说话者的音色和语调,降低本地化成本。用户提交视频并选择目标语言后,AI自动完成配音,并由专家团队审核,确保准确自然。
需求人群 如果你经常需要从图片中提取文字——例如整理截图内容、翻译图片里的外语文本、识别带有水印的图片信息——那么 Umi-OCR 无疑是一款相当实用的工具。它完全在本地运行,无需联网,对隐私保护极为友好。 产品特色 这款工具的核心亮点都集中在实用性上。截屏识别操作非常顺手,按下快捷键即可框选区域,
艺术创作与人工智能的融合,正在开启一个全新的创作时代。moonlightai 正是这样一款AI绘画工具,能够帮助用户通过人工智能快速生成不同风格的绘画作品——无论你想复刻文艺复兴时期的古典优雅,还是为画作注入梵高般炽热的笔触,甚至从艾沃佐夫斯基的海浪星空中汲取灵感,它都能轻松实现。 需求人群 简单来
- 日榜
- 周榜
- 月榜
热点快看
