我国发布首个AI应用伦理安全指引 完善人工智能治理体系

2026年5月19日至20日，中国网络文明大会在广西南宁隆重举行。大会期间，“人工智能赋能网络文明建设”分论坛备受瞩目，众多AI领域的权威专家、学者及企业代表齐聚一堂，深入探讨了人工智能技术如何驱动网络文明进步。论坛聚焦AI技术发展趋势、创新实践与安全治理等核心议题，并迎来一项重要成果——全国网络安全标准化技术委员会正式发布了《人工智能应用伦理安全指引1.0》。该指引的出台，标志着我国在人工智能安全治理体系的完善道路上迈出了关键一步。

《人工智能应用伦理安全指引1.0》的核心目标，在于系统应对AI应用过程中面临的伦理与安全风险。指引明确要求，在所有人工智能相关活动中，必须将伦理安全置于首要位置，贯穿始终。具体而言，需从安全影响评估入手，审慎处理人工智能与人、社会及自然环境之间的互动关系。其根本宗旨是引导技术朝着造福人类、服务社会、促进可持续发展的方向健康演进，从而规避不理性的技术路径与滥用风险，最终确保人工智能的发展成果能够切实提升人类福祉。

AI技术高速发展背后的安全挑战

中国网络空间安全协会人工智能治理专业委员会专家王欣强调，尽管人工智能在过去几年实现了爆发式增长，但其伴生的安全隐患也日益严峻。例如，算法歧视、数据偏见以及伦理失范等问题逐渐显现。他援引了一个常见案例：当前许多家长利用AI学习工具辅导孩子，但如果这些工具生成的内容包含错误信息或隐性偏见，不仅无法助力学习，反而可能对青少年的认知发展产生不良影响。因此，筑牢人工智能伦理安全防线，已成为一项紧迫而重要的任务。

确立“以人为本、智能向善”的治理体系

《指引1.0》详细阐明了人工智能伦理安全应遵循的七大基本原则，涵盖增进人类福祉、尊重生命权利、保障公平公正、管控潜在风险、保持公开透明、保护隐私数据以及确保可控可信。此外，指引还从AI技术研发、产品服务提供到实际部署应用的全生命周期出发，制定了具体的行为规范细则，旨在引导整个产业在安全、合规、有序的轨道上稳健发展。

针对这份指引的意义，中国政法大学人工智能法研究院院长张凌寒进行了深度解读。她指出，无论是AI技术的研发者、运营方还是最终用户，都需要一个清晰、可操作的规范性框架。《人工智能应用伦理安全指引1.0》的价值，正是将AI技术产品从开发到落地的全链条行为，纳入统一的伦理规范体系之中，从而真正落实“以人为本、智能向善”的发展理念。可以说，该指引有效衔接了宏观治理原则与微观场景实践，填补了具体操作层面的规则空白，是我国人工智能安全治理拼图中不可或缺的关键组成部分。