AI监管新趋势从管模型转向管行为解读

2025年5月21日，“AI新治向”系列沙龙第二期活动成功举办，聚焦“共守智能体安全底线”这一核心议题。广东广信君达律师事务所合伙人会议联席主任闪涛律师的深度分享，揭示了当前AI法律风险防范的一个关键转向：重心正从传统的“内容治理”向更为复杂的“行为治理”演进。

广信君达律师事务所合伙人会议联席主任闪涛在活动现场分享。

监管演进：从“大模型”到“智能体”的全面覆盖

纵观全球AI治理格局，欧盟、美国与中国采取了各具特色的监管路径。中国采取了更为灵活的“小步快跑”立法模式。自2024年《生成式人工智能服务管理暂行办法》实施以来，监管框架持续深化，今年发布的《智能体规范应用与创新发展实施意见》标志着监管对象已从静态的“大模型”扩展至具备自主行动能力的“智能体”。

该《实施意见》构建了多部门协同的立体化监管体系，网信、发改、工信等部门共同参与。这向企业传递了明确信号：在智能体产品全生命周期中，必须贯彻“一个产品、多维合规”的理念。数据安全、网络安全、算法备案、个人信息保护等多条监管红线需并行遵守，缺一不可。

深入解读《实施意见》，其核心内容可概括为六大维度：基本原则、发展基础、安全底线、应用推广、创新生态与保障措施。其中，第5至14条为企业划定了十条明确的合规底线，而第15至38条则详细规划了覆盖近20类应用场景的发展路径。文件确立的“安全可控、规范有序、创新驱动、应用牵引”十六字方针，构成了智能体监管的基石。在风险评估层面，监管思路强调区分敏感领域与低风险场景，但需注意，风险等级的界定并非一成不变，必须结合具体的数据处理活动进行动态、场景化的研判。

治理转型：从“内容安全”到“行为合规”的深层变革

当前，AI风险治理的核心已发生结构性转移。过往的焦点集中于“内容治理”，如防范生成有害信息、泄露隐私数据等。而智能体的普及，将法律挑战推向一个全新领域——“行为治理”。

法律的本质在于规范行为。传统法律体系规制的对象是自然人或法人的行为，例如合同订立、侵权行为。然而，在智能体时代，“行为”的外延被极大拓展。一次API调用、一个账户操作、一回数据库访问、一台设备控制、一笔交易触发……这些技术操作均被赋予了法律意义。法律从业者必须理解“调用”“操作”“触发”等技术术语背后的法律内涵与责任。智能体所展现的感知、记忆、规划及工具调用等一系列自主行为，已成为法律必须回应和规范的新课题。

其中，“决策”概念的法律重构尤为关键。传统法律中，决策与行为人的主观意图紧密绑定，故意或过失是判定责任的核心。在智能体应用场景下，决策可细分为三类：用户直接决策、用户授权决策以及智能体自主决策。如何将技术层面的决策逻辑，精准映射到法律层面的主观意图认定，是实践中的重大挑战。可行的解决方案是围绕决策建立一套透明机制，包括：权限分级管理、用户充分告知、高风险操作二次确认、授权便捷撤回以及完整的决策日志存证。这五项机制是未来厘清责任归属、进行责任追溯的核心依据。

合规构建：构筑智能体安全的三重防护体系

面对日益复杂的法律环境与监管要求，企业应如何系统构建智能体合规框架？一个切实可行的方案是建立“智能体安全三道防线”。

第一道防线是内生安全。即在智能体的设计、研发与部署初期，便将安全机制深度融入架构，实现风险源头管控。第二道防线是供应链安全。这包括对接入模型的合规性审查、API调用中的数据流向溯源，以及对各类扩展工具与插件的全面安全审计。第三道防线聚焦应用衍生风险，核心在于建立常态化的风险动态监测、预警及人工干预流程。对于高风险的输出或操作指令，必须引入“人机协同审核”机制，避免完全交由智能体自主判断。

在法律发展常滞后于技术创新的客观现实下，行业自律与共治显得至关重要。通过行业协会、专家共识、标准倡议等形式，在强制性法规完善前主动约束行业行为，是共建安全、可信、创新生态的关键一环。

基于此，企业可制定分阶段的合规行动路线图。短期任务在于清晰界定自身业务场景，准确评估产品所属风险等级。进而，为每个智能体建立全生命周期管理规范，确保其具备明确的数字身份、清晰的操作权限边界，并实现所有关键行为的可记录、可追溯、可审计。中长期目标则是持续积累AI合规资产，将合规能力沉淀为企业的核心竞争优势。

必须清醒认识到，合规的本质是前瞻性风险管理，而非事后补救措施。它不应被视为单纯的“成本支出”，而应被定位为企业可持续发展的“战略护城河”。在智能体浪潮中，率先构建起稳健合规体系的企业，将在未来的市场竞争与创新发展中获得更有利的地位。

“AI新治向”系列沙龙由粤港澳大湾区生成式人工智能安全发展联合实验室与南方都市报社联合主办，并得到广东省网络数据安全与个人信息保护协会的大力支持。本次活动汇聚了政府监管、司法实务、学术研究、产业应用及权威媒体等多方代表，围绕《智能体规范应用与创新发展实施意见》的核心要求，深入剖析了智能体应用的安全风险本质，共同探讨了多元主体协同共治与创新实践平衡发展的可行路径。