ComAct基于COM-as-Action范式的工业软件AI自动化全栈解决方案
ComAct是一套基于COM-as-Action范式的Windows软件AI智能体全栈方案,通过COM接口将自然语言指令转为Python自动化脚本,解决工业CAD、设计、办公类商用软件操作难题。包含ComActor智能体、ComCADBench评测基准和ComForge并行训练环境,在千项工业CAD任务中取得84%-98%的SOTA性能,实现端到端长流程自动
一、ComAct是什么
ComAct究竟是什么?简单来说,它是一套基于全新COM-as-Action交互范式的Windows软件AI智能体全栈方案,专门用于解决工业CAD、设计、办公类商用软件的自动化操作难题。该系统包含三大核心组件——ComActor智能体模型、ComCADBench工业CAD评测基准、ComForge分布式并行仿真训练环境,并配套完整数据集与代码生成逻辑。其核心原理是:通过Windows COM组件对象模型,将自然语言指令直接转化为可执行的Python自动化脚本,从而替代传统的GUI视觉点击和碎片化API调用这两种低效方案。目标非常明确:针对SolidWorks、AutoCAD、Inventor、Photoshop、Office等主流商用软件,实现端到端的长流程自动化。论文和项目主页现已公开,数据集和代码后续也会开源发布。

四、应用场景
ComAct的实际应用范围远超想象,以下是几个典型的场景:
机械/工业CAD批量自动化设计
机械工程师可利用它进行批量参数化建模、零件装配、自动生成工程图纸以及批量导出PDF,彻底告别重复的手工建模和标注工作。跨软件设计流水线协同
例如:SolidWorks建模→Excel导出物性数据→PPT自动生成设计汇报,一套脚本即可完成多软件的联动办公设计流程。设计数据批量处理
批量读取CAD模型的质量、体积等参数,自动写入Excel生成物料清单和工艺报表,效率直接翻倍。影视/平面设计批量制作
Photoshop、3DMax、Premiere等软件同样适用——批量素材渲染、图层自动化处理、批量导出工程文件,全都不在话下。企业AI训练数据生产
企业若想自研工业AI智能体,依托ComForge大规模并行环境,可以低成本生成海量CAD指令-代码训练样本。工业软件AI算法评测
科研机构和AI厂商可借助ComCADBench这一标准化基准,横向对比各类大模型的CAD自动化能力。
五、使用方法
使用ComAct解决实际问题,只需五个步骤:
步骤1:环境部署
- 底层硬件:支持Windows11容器集群;单机本地测试时,单台Windows11环境即可满足需求。
- 依赖安装:先配置Python环境,然后安装
pywin32库,以及目标工业软件(如SolidWorks、AutoCAD等)。 - 部署ComForge调度服务(用于批量训练/评测场景);单机测试可跳过集群部署步骤。
步骤2:加载ComActor智能体
加载预训练好的9B ComActor模型,然后配置软件的COM接口标识——比如SolidWorks对应的是SldWorks.Application。
步骤3:输入自然语言业务指令
举个例子:在SolidWorks里创建一个等尺寸V型双矩形面板零件,生成第三角投影视图的工程图,并导出PDF到C盘指定路径。
步骤4:自动生成并执行COM代码
智能体输出Python自动化脚本,随后在终端后台执行软件操作,同时实时捕获报错,自动修复并迭代优化。
步骤5:任务完成输出结果
建模文件和PDF图纸会自动保存至指定路径,智能体输出一个「DONE」标记以结束任务。
六、竞品对比
我们将ComAct与市面上另两类主流桌面自动化AI方案进行了横向对比:一类是GUI视觉智能体(如OpenAI Computer Use),另一类是通用API代码智能体(如MCP Agent)。差距有多大?下表一目了然。
| 对比维度 | GUI视觉桌面智能体(OpenAI Computer Use) | 通用API代码智能体(MCP Agent) | ComAct(COM-as-Action) |
|---|---|---|---|
| 底层交互方式 | 图像识别+鼠标键盘模拟 | 软件开放API协议调用 | Windows统一COM组件接口 |
| 商用CAD软件适配 | 差,界面复杂极易定位失败 | 差,多数工业软件无开放API | 完美适配全主流Windows专业软件 |
| 长流程多任务稳定性 | 极差,步骤越多误差累积越高 | 一般,跨软件API不互通 | 优秀,代码确定性执行,自带自纠错 |
| 软件功能覆盖范围 | 仅能操作界面可见按钮 | 仅开放API提供有限功能 | 软件全部底层功能无限制调用 |
| 是否需要提示词/检索增强 | 必须依赖大量Few-Shot样本 | 依赖检索库提升成功率 | 无需提示词、检索,原生SOTA性能 |
| 工业CAD专用评测基准 | 无标准化CAD测试集 | 无工业CAD基准 | 自研ComCADBench千项工业任务基准 |
| 并行训练基础设施 | 无大规模仿真集群 | 无Windows软件并行环境 | ComForge支持1000+并行容器环境 |
| 跨软件工作流能力 | 无法稳定实现多软件联动 | 协议不统一,跨软件开发成本高 | 单脚本一键完成多软件串联业务 |
| CAD任务综合完成率 | 全部基线模型趋近0% | 最高不足80% | 全任务分类84%-98%区间SOTA表现 |

七、常见问题解答(FAQ)
Q1:ComAct是不是只能用在SolidWorks、AutoCAD这类工业软件上?
A:并非如此。只要Windows平台提供标准COM自动化接口的软件都能适配,例如Photoshop、3DMax、Premiere、Excel、PPT等,覆盖绝大多数商用桌面程序。
Q2:ComActor必须搭配GPT、Qwen这类大模型才能用吗?
A:完全不需要。ComActor是一个独立的三阶段训练专用9B模型,在ComCADBench所有任务上的原生性能已经超越GPT-5、Claude-Sonnet、Qwen系列主流大模型,无需少样本提示或检索增强,开箱即可使用。
Q3:COM接口自动化会不会修改本地的软件原始文件?
A:不会。脚本执行逻辑完全遵循用户指令,仅在用户指定的路径下新建、保存零件和图纸文件;软件本体配置和历史文件都不会被自动修改。并且它支持后台静默运行,不会干扰当前的人工操作界面。
Q4:单机Windows电脑能本地部署ComAct吗?还是必须上集群?
A:单机完全可以部署基础功能,只需安装对应的工业软件和pywin32依赖,就能完成单条CAD建模、出图任务。ComForge大规模并行容器集群主要用于批量训练和大规模评测场景,并非日常使用必需。
Q5:ComAct生成的COM代码能不能单独提取出来复用?
A:当然可以。智能体每一轮输出的Python win32com代码都可以直接复制独立运行,无需依赖ComActor模型。企业可借此沉淀出一套标准化的自动化脚本库。
Q6:GUI智能体和ComAct最大的差距体现在哪里?
A:差距最明显的是长时序复合工业任务场景。GUI视觉智能体在多步骤装配、建模流程中会持续累积识别错误,导致任务几乎全部失败。而ComAct基于确定性代码执行,自带报错自修复能力,复杂多任务的完成率可超过85%。
八、相关链接
- 项目主页:https://knowledgexlab.github.io/ComAct/
- arXiv论文地址:https://arxiv.org/abs/2606.13239
- GitHub仓库:https://github.com/KnowledgeXLab/ComAct
九、总结
ComAct创新地提出了COM-as-Action这一全新桌面软件AI交互范式,从底层绕开了传统GUI视觉智能体和API智能体的两大技术瓶颈。它配套了自研的ComActor自纠错专用智能体、行业首个工业CAD标准化评测基准ComCADBench,以及支持千级并行运行的ComForge仿真训练底座,完整构建了面向Windows专业商用软件的AI自动化全栈解决方案。在千项工业CAD分级任务中,ComAct取得了全面领先的SOTA性能,能够稳定完成建模、装配、工程出图、跨软件协同等复杂长流程业务。对于机械设计、平面影视、企业办公等领域而言,这确实是一条可落地、可规模化训练的AI自动化技术新路线。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:ComAct基于COM-as-Action范式的工业软件AI自动化全栈解决方案要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点LongCatAI通过多层能力协同实现知识库语义增强补全:基于1M超长上下文解析文本、表格与图像;结合OCR和视觉编码器补全图文缺失;依据用户长期行为动态调整补全策略;每次补全经语义校验与场景模拟验证,并保留完整溯源。
NovaAI通过智能解析售后意图、本地化合规校验与多语言回复生成,实现跨境电商售后自动化。支持单条或批量处理,对接ERP实时校验库存与退款可行性,人工微调后一键同步至客服工作台与知识库。
阶跃AI提示词模板覆盖周报、风险同步、会议转待办、数据汇报、跨部门邮件五个高频场景。周报需分核心成果、阻塞问题、下周计划三块;风险同步用确定性词汇;会议结论转待办需明确责任人及具体截止日;数据汇报嵌入业务逻辑;跨部门邮件避免客气词,给出行动锚点。
通过分析广告投放、社媒运营和产品更新日志,阶跃AI的推广起点始于Skill商店上架日或首条付费广告曝光,而非发布会。策略以广告先行、社媒托底,小红书为核心种草阵地,初期超65%预算投向细粒度精准人群,用可验证技术细节撬动工程师圈层传播。
- 日榜
- 周榜
- 月榜
热点快看
