赵付春：建设安全智能医疗生态需破解四大核心难题

人工智能（ai）大模型正加速融入医疗健康生态，但其背后的法律责任、伦理边界与风险分担问题仍缺乏明晰框架。如何让ai在守住安全与伦理底线的前提下健康发展？笔者认为，要明确ai辅助诊疗责任，构建一个安全、可信赖的智能医疗生态，必须直面以下4个问题。

破解“黑箱”确保决策过程可追溯

ai大模型在提供辅助诊疗时，其判断逻辑存在难以解释的“黑箱”特征。这一问题是法律责任认定的首要障碍。

对此，ai辅助诊疗需以“透明与可追溯”为前提。ai服务开发方应严格遵照相关规范，将可解释性框架和模型卡嵌入产品交付流程，使医务人员能够理解ai判断的临床关键依据。医院应要求ai服务开发方提供或自主建设辅助决策日志系统，记录ai调用的时间、输入数据、诊断结果及其置信度分数。这份档案不仅是未来责任追溯的司法证据，也是医院进行质量控制和持续性能监控的生命线。

同时，双方在采购合同中应谈妥透明度条款和审计权条款，拒绝以商业机密为由的过度封锁，并允许专业的伦理委员会和技术审计团队对算法的临床安全性和持续有效性进行定期审查。

界定医疗智能决策的责任归属

当前，ai在医疗体系中多以辅助角色存在，法律上缺乏人格主体，造成了法律上的“主体真空”。当医生过度依赖ai建议导致漏诊或误诊时，如何界定侵权法上的因果关系和近因，是法律实践中的最大难点。

借鉴我国现行医疗损害责任体系，责任可划分为医疗机构与医务人员的过错责任，以及ai服务开发方的无过错产品责任。医院需制定严格的临床使用规范，明确医务人员对ai的建议负有最终的审慎验证和判断义务；若医疗责任是医务人员未尽到合理注意义务或对算法盲目信任所致，则由医疗机构和医务人员承担过错责任。若能证明损害源于系统程序缺陷、算法设计瑕疵，或系统性数据偏差、对抗性攻击等新型算法缺陷，则由ai服务开发方承担无过错产品责任。

在司法实践中，应引入具备算法审计能力的技术专家证人。通过技术审计，推动算法缺陷的举证责任适度转移，将证明算法缺陷的责任适度转移给ai服务开发方，以减轻患者的举证负担。在保护患者权益的同时，促进ai技术的稳健应用。

建立维护患者权益的风险分担机制

在ai深度赋能医疗的背景下，数据是核心要素，数据安全、隐私保护需要提升至核心制度保障层面。

首先，必须完善患者知情同意与数据授权机制。医院应在“知情同意书”中增设ai辅助诊疗条款，明确ai辅助决策的方式、依据及不确定性。在数据使用方面，应优先采用数据不出本地、模型协同训练的联邦学习方法，以及对个人信息进行技术性模糊处理的差分隐私方法等隐私保护技术，从技术层面保障数据安全。患者有权选择是否接受算法建议，这体现了医疗服务中的共同决策理念。

其次，应积极探索“ai辅助诊疗责任保险”制度，推动医疗责任险与科技产品责任险协同，形成ai辅助诊疗综合责任险。有关部门应指导保险机构开发相应产品，并要求高风险ai产品的开发者购买足额的保险，从而有效分散赔偿风险、提高理赔效率，为ai辅助诊疗建立风险缓冲机制。

增强医疗智能决策的可持续性

当前，传统监管模式无法有效追踪ai产品上市后的性能漂移和安全风险。同时，跨部门监管协同困难以及人才能力的滞后，都是制约ai辅助诊疗可持续发展的关键因素。

促使监管适配技术发展，必须构建“全生命周期”监管体系：

一是推行ai风险分级管理。借鉴国际经验，基于临床影响和风险程度，将ai应用划分为低风险、一般风险、高风险等级，并采取差异化的监管策略。对于直接参与诊疗辅助决策的高风险ai，应限制在具备高监管能力和伦理审查机制的机构内进行探索。

二是建立基于机器学习运维规范的持续监管框架。监管机构要严把ai产品上市审批关，建立上市后的主动监测、性能追踪和定期再评价制度，要求ai服务开发方和医疗机构建立符合机器学习运维规范的系统，实现对ai产品性能漂移和异常的自动化监测和报告，从技术底层实现全链条监管。

三是加强多主体协同和规范指导。监管机构应加速制定统一的落地标准和细化监管规则。同时，建立由卫生健康行政部门主导的伦理与技术鉴定机构，为复杂的ai辅助诊疗纠纷提供专业、权威的裁决依据。

四是推行人才培养与伦理教育。帮助医生、医院管理者和法律人员了解ai原理和应用场景，加强伦理教育，防止过度依赖。

作者：赵付春（上海社会科学院信息研究所副研究员）

来源：健康报

制作审核：院党委宣传部

（院科研成果传播办公室）

责任编辑：刘苁有

上海社会科学院积极响应中央加强中国特色新型智库建设的号召，以构建国内一流、国际知名的社会主义新智库为目标，大力实施智库建设和学科发展的双轮驱动发展战略，努力成为哲学社会科学创新的重要基地，成为马克思主义中国化的坚强阵地，成为国内外学术交流的主要平台，成为具有国内外重要影响力的国家高端智库。

上观号作者：上海社会科学院