我国发布首个AI应用伦理安全指引 完善治理体系

2026年5月19日至20日，中国网络文明大会在广西南宁隆重举行。大会期间，“人工智能赋能网络文明建设”分论坛成为焦点，吸引了学界与产业界的众多专家。与会者围绕人工智能的技术发展、创新实践与安全治理等核心议题进行了深度交流。论坛上，全国网络安全标准化技术委员会正式发布了《人工智能应用伦理安全指引1.0》，这一举措标志着我国在人工智能安全治理体系的完善道路上迈出了坚实一步。

新发布的《指引1.0》旨在系统应对人工智能应用中的伦理与安全风险。文件强调，在所有人工智能应用的开发、部署与使用全过程中，都必须将伦理安全要求置于核心位置。具体而言，需从安全影响评估出发，审慎处理人工智能与人、社会及自然环境之间的互动关系。其根本目标是引导技术向善，确保发展有益、安全且公平，防止技术路线的误判与滥用，从而保障人工智能技术持续服务于提升人类整体福祉的长期愿景。

针对人工智能伦理安全的迫切性，中国网络空间安全协会人工智能治理专业委员会专家王欣分享了深刻见解。他指出，近三五年人工智能技术突飞猛进，相伴而来的安全挑战也日益严峻，尤其是算法偏见与伦理失范问题。他以家庭教育场景为例：如今许多家长采用AI工具辅助孩子学习，但如果AI生成的内容中隐含不良或误导性信息，其潜在危害可能远超传统途径。这正表明，伦理安全是确保技术健康应用不可逾越的底线，而非抽象概念。

那么，人工智能伦理安全涵盖哪些核心原则？《指引1.0》构建了一个清晰的框架，包括增进人类福祉、尊重生命权利、保障公平公正、管控潜在风险、维护公开透明、保护隐私数据以及确保系统可控可信等多重维度。尤为关键的是，指引不仅确立了原则，更针对人工智能从研发、提供到使用的全生命周期，制定了具体可操作的行为规范。这套“原则+细则”的组合措施，旨在为人工智能应用划定明确的发展轨道，引导其在规范、安全、可控的框架内有序成长。

对于该指引的实践价值，中国政法大学人工智能法研究院院长张凌寒给予了高度评价。她表示，无论是技术研发方、产品部署方还是终端用户，长期以来都需要一份具有明确导向的操作参考。这份指引有助于构建更健全的人工智能安全生态，确保相关行为始终在伦理框架内运行，真正落实“以人为本、科技向善”的可持续发展理念。她特别指出，《指引1.0》的发布，有效衔接了宏观伦理原则与具体应用场景之间的规则断层，是我国人工智能治理体系拼图中不可或缺的关键组成部分。