港科大郭毅可谈智能体AI时代人机共生人类不可退场

导语 | 大模型正从“理解语义”迈向“执行任务”，人工智能已不满足于回答问题，而是开始真正付诸行动。这一跨越引出了一个更为深刻的议题：当机器愈发能干，人类该如何自处？Agentic AI 时代最根本的挑战，并非技术本身，而是人与智能体之间的责任界定。人类不可能也不应该退场，“可控自治”才是人与智能体和谐共存的基石。本文基于欧洲科学院院士、香港工程科学院院士、香港科技大学首席副校长郭毅可在相关活动上的现场演讲整理，内容略有编辑。

目录

一、Agentic AI 时代的核心命题

二、人机共生：可控自治，责任如何分配

三、香港：Agentic AI 的绝佳试验场

四、Agentic AI 的四个演进方向

五、越聪明，越需严管：破局 Agentic AI 的关键

六、企业行动指南：将 AI 转化为制度化能力

作者简介

郭毅可，现任香港科技大学首席副校长、计算机科学及工程学系与电子及计算机工程学系讲座教授，并兼任香港生成式人工智能研发中心主任。他是享誉世界的计算机科学家，曾领导香港、内地、英国及欧洲多国的大型人工智能与数据科学研究项目。此前，他曾任英国帝国理工学院七大全球研究所之一的数据科学研究所创始所长，以及香港浸会大学副校长（研究及拓展）。其学术荣誉包括英国皇家工程院院士（FREng）、欧洲科学院院士（MAE）、香港工程科学院院士（FHKEng）、电机电子工程师学会会士（FIEEE）、英国电脑学会会士（FBCS）以及中国人工智能学会会士（FCAAI）。他于2022年荣获吴文俊人工智能杰出贡献奖，该奖被视为中国智能科技领域的最高荣誉。2025年，他被星岛新闻集团及2024年杰出领袖选举评审委员会评选为“2024年杰出领袖选举‘教育/专业/科技及创新组别’”获奖者。同年11月，郭教授当选为中国工程院外籍院士，以表彰其在信息与电子工程领域的卓越成就。

一、Agentic AI 时代的核心命题

以往谈论人工智能，评价一个模型优劣的标准非常直观：它是否“懂”得问题？回答是否准确？如今，风向已彻底转变。

当前的核心问题，不再是模型能否答对一道题，而是智能体能否在复杂任务中持续运作，并在关键节点将风险交还给人类进行判断。这表明，人工智能正从“回答问题”转向“替人做事”——一旦 AI 开始真正行动，而不仅仅是提供建议，一个更深层的议题便浮现出来：谁来为最终结果负责？

因此，Agentic AI 时代最核心的议题，归根结底不在于技术本身，而在于人机共生，人类绝不能退场。请注意，是“绝不能”，没有任何商量的余地。

为什么人类不能退场？至少有三个相互关联的层面：

• 所有法律制度与社会秩序都是为人类构建的：即便未来机器人能完成所有任务，规则的最终解释权、责任的最终归属权，始终掌握在人类手中。
• 信任的本质，归根结底是人与人之间的连接：举例来说，即使智能体能阅读全部病例、做出精准诊断，患者最终需要的，仍然是一位真实的医生来确认、来签字。这个最终的签核权，永远属于人类。
• 机器与人类各自擅长的工作，本就不同：机器负责解锁、验证、执行规则化的工作；人类负责设定目标、判断是非、分配责任，并最终承担责任。

这三个层面叠加起来，指向同一个结论：人类不可能退场，这是 Agentic AI 的铁律。正因如此，AI 的角色必须升级，它不能只停留在“回答问题”的阶段，而是要真正嵌入到工作流之中。

聊天机器人主要辅助人类对话，而 Agentic AI 更进一步，开始处理实际任务——读文件、查资料、调用工具、整理结果，将 AI 从信息助手提升为工作参与者。这一角色跃迁的背后，正是 AI 从“理解能力”到“执行能力”的核心跨越。

二、人机共生：可控自治，责任如何分配

“可控自治”是理解 Agentic AI 的关键钥匙：机器在授权范围内自主行动，但人类必须对结果进行校验。人机共生的重点，在于厘清责任边界——机器负责高频、重复、可验证的工作，人类负责设定目标、做出判断、进行取舍并承担最终责任。

过度干预，会抑制机器的效能；放任自流，则风险不可控。Agentic AI 的核心形态，正是在这两种极端之间找到精妙的平衡点。从这个角度看，人类对机器责任边界的界定，实际上决定了 Agentic AI 能走多远。凡是高风险的任务，机器可以提供建议，但绝不能单独执行，更不能替代人类的责任。这是一条必须坚守的底线。

但话说回来，这已不仅仅是技术问题，更是一个深刻的社会议题。责任的转移如何界定？Agentic AI 何时该介入、何时该交还人类决策权？这些都需要清晰、可执行的规则。它早已不再是纯粹的算法议题，而是上升到治理层面。

三、香港：Agentic AI 的绝佳试验场

要寻找这些问题的答案，不能仅停留在纸面推演，需要一个真实的试验环境。而香港，恰恰就是这样一个得天独厚的试验场。

香港的产业结构与 Agentic AI 天然契合。金融、法律、政务和专业服务等领域，都高度依赖文本、规则与合规流程。这种高密度的任务场景，恰好需要可控的智能体能力。更关键的是，香港拥有完整的普通法体系和成熟的法治环境。责任如何在人与机器之间转移、如何在明确的法律框架内界定，这些问题在香港有现成的制度土壤可以开展试验。

与此同时，香港的 AI 基础设施条件也在快速成型。算力支持、政府资助计划以及产业政策共同构成了坚实的基础，让 Agentic AI 有机会从试点走向实际应用。香港政府推出的人工智能资助计划规模高达 30 亿港元，对于推动本地 Agentic AI 产业起步，意义非同小可。

产业有需求，制度有土壤，投入在跟进。这三件事聚合在一起，意味着 Agentic AI 在香港已经具备了从实验室走向市场的现实条件。

这些方向并非纸上谈兵。基于本地化大模型的 Agent 平台 HKGAI 已在香港落地，支持长任务执行、安全沙盒隔离与自定义 Skill，能够交付分析报告、报税系统、对话系统等多种应用。其 28 小时连续工作的记录，代表的不仅是一个冷冰冰的技术指标，更是 Agentic AI 真正进入工作流的能力信号。智能体的价值，归根结底在于将组织中分散、重复、低价值的流程整理成系统化能力，让团队将精力释放到更高价值的判断上。

四、Agentic AI 的四个演进方向

从这些正在发生的实践出发，Agentic AI 的整体演进方向已经变得愈发清晰。

从产品形态来看，行业正从 Copilot 式的辅助工具，转向具备自主执行能力的 Agent 平台。辅助与自主，是两种完全不同的产品逻辑，而金融行业最有希望率先实现规模化落地——大量的尽调文书工作以及投资决策支持，都是 Agent 擅长的领域。

从工作形态来看，人机交互正从单一对话模式，转向一人统筹多智能体协同的协作网络。未来，一个人可以同时调度多个智能体，各自负责不同的专业环节。这不再是远景，而是正在发生的事实。

从系统定位来看，Agentic AI 不能仅是提效工具，而必须成为一套可信赖的基础设施。它需要具备边界管理、审计机制与追责能力。HKGAI 团队甚至引入了区块链技术来记录 Agent 的行为时序，使得每一次决策都可以被追溯和评估。

从应用范围来看，孤立的 Agent 应用价值有限，真正的潜力在于构建城市级的智能协作网络。金融、法律、政务、医疗等场景有机连通，形成高信任度、高密度、高价值的生态系统。

这四个方向拼在一起，构成了一个完整的落地框架。但这个框架本身，隐藏着一个深刻的矛盾。

五、越聪明，越需严管：破局 Agentic AI 的关键

Agentic AI 存在一个无法回避的悖论：智能体越聪明，它犯错造成的危害就越大；而对它管控越严，其能力发挥就越受限。这是一个真正的两难困境。

我们希望 Agent 足够自主，能够处理复杂任务；但正因为它足够自主，一旦出错，后果可能远超那些能力较弱的系统。因此，越聪明，就越需要严格管理；可越严格管理，自主性又被削弱了。这几乎是所有从业者都必须面对的一道坎。

破局的关键在于，高风险任务必须保留人类的最终判断权。机器可以给出建议、提高速度、整理证据，但人类负责关键决策和责任承担。这不是一句空话，而是必须落到实处的操作原则。

这一原则的落地，需要一套可信赖的基础设施作为支撑。它不仅仅是技术问题，更需要清晰的责任规则、审计机制与治理框架。而香港的优势恰在于，这里有完整的法律体系、高密度的高信任行业场景，以及正在成型的 AI 基础设施。这些条件加在一起，使得“可信智能体城市”可以成为香港的未来定位。

这个定位的核心不是技术，而是两种更根本的能力：组织能力与治理能力。技术只是手段，能否将智能体有机地嵌入城市运行体系，能否建立一套让人类与智能体协同工作的治理规则，这才是决定成败的关键。

从单点应用走向城市级智能生态，最重要的一个字是“信”。而信任的建立，靠的不是包装和宣传，而是闭环：可验证、可追溯、可追责。这“三可”，是可信智能体城市的基石。

六、企业行动指南：将 AI 转化为制度化能力

未来几年最重要的事情，是将 AI 的能力真正治理好。治理得当，AI 就是生产力；治理不善，AI 就只是被投资者炒作的神话。

而治理的第一步，对于企业来说，要从流程改造开始。首先选择高频、文本密集、结果可验证的任务，然后为每个智能体设定清晰的目标、权限、工具和复核机制。在引入 Agentic AI 之前，先把流程搞清楚：哪些环节可以让机器做，哪些必须由人把关，机器的输出如何校验，出错后如何追溯。这些“任务合约”，必须提前厘清。

这将是未来几年最重要的管理工作之一。而这件事之所以困难，是因为大多数企业的流程，可能连自己都尚未完全想清楚。这正是 Agentic AI 对组织最真实的挑战——它迫使企业直面自己的流程，也迫使企业重新定义人与机器的分工。

当智能体真正进入工作流，ERP 这类传统管理系统将面临巨大的挑战——要么转型，要么被替代。这不是危言耸听，而是一个必然趋势。因为这套新的分工方式，需要的是一套全新的组织基础设施，而不仅仅是将 AI 嵌入旧流程。

香港现在正在做的，正是这件事。从完整的法律体系，到高密度的专业服务场景，再到正在成型的 AI 基础设施，条件已经具备。而 HKGAI 选择将 Agent 平台开源，让更多用户一同参与这场探索，为智能体赋予身份、界定权限、建立契约，让智能体形成一个可管理、可追责的协作网络。就像人类社会有规则约束一样，智能体社会同样需要。

结语

人机共生时代的到来已不可阻挡。当 AI 智能体不再局限于语言世界，而是能在行动世界中自主决策、与人协同工作时，人与机器的关系就已越过某个关键边界。Agentic AI 时代的核心焦点，将从“让机器更聪明”转向“人与机器的社会契约”。

这意味着每个人都必须建立全新的认知框架：将 AI 视为共生伙伴，而非单纯的工具；明白什么可以让 AI 做，什么必须自己做。这，便是 Agentic AI 时代的人类素养。

但技术终究是手段，真正重要的问题是：如何让机器与人各司其职，如何建立一套可信的责任体系。而这个答案，不会从某篇论文中找到，也不会从某个产品的发布会上听到。它只能从真实的实践中，从一次次的试错与校准中，慢慢生长出来。

AI 是生产力，还是炒作的神话，最终取决于我们今天的选择——取决于我们今天的治理与行动。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：港科大郭毅可谈智能体AI时代人机共生人类不可退场要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题