Soul App成立人工智能伦理与治理委员会，推动负责任创新

生成式人工智能（AI）技术流派正加速融入社交、内容创作及情感陪伴等互联网核心领域。尤其在年轻用户高度聚集的社交平台上，AI早已不仅仅是“辅助写作”的生产力工具，它正在扮演更具情感深度的角色——与用户实时聊天、深度参与互动，甚至潜移默化地影响用户的决策判断。这对于行业而言，既是前所未有的发展机遇，也带来了诸多关于伦理治理的全新课题与挑战。

6月23日，专注于情绪感知与交互技术的AI生态企业Soul App，正式宣布成立人工智能伦理与治理委员会。该委员会不仅由内部成员组成，还特别邀请了来自互联网治理、伦理学、社会学、青少年研究以及法律等多个专业领域的权威外部专家，旨在通过多元化的视角，全面审视并应对AI伦理这一系统性议题。

Soul App创始人兼CEO张璐指出，AI应当如何更深入地嵌入交互场景？其核心能力边界在哪里？又该如何划定应用的合理范畴？这些都是Soul团队一直在深度思考的关键问题。在过去一段时间里，Soul在数据安全、用户隐私保护、AI防沉迷机制以及治理体系升级等方面进行了大量实践。而此次成立伦理与治理委员会，则是为了进一步凝聚行业自律共识，拓宽治理视野，更前置、更系统化地构建一套完善的AI伦理治理体系与管理闭环，其核心目标是营造一个更加真实、温暖且值得信赖的社交生态。

“对于大模型企业而言，深入洞察用户内心深处的伦理需求，并将其巧妙地融入产品设计的全过程，这不仅是一项应尽的义务，更是未来发展的重大机遇。”Soul人工智能伦理与治理委员会的外部委员、复旦大学马克思主义研究院副院长、伦理学博士李凌如此表示。他同时强调，随着AI技术的持续演进，伦理治理的议题注定将从行业边缘走向舞台中央，成为关键议题。

Soul人工智能伦理与治理委员会召开首次外部委员专题会议。

AI伦理治理面临的多元化挑战

根据Just So Soul研究院发布的《2025 Z世代AI使用报告》显示，数据颇具洞察力：高达55.4%的年轻人在工作或学习场景中频繁借助AI辅助创作；另有近四成的年轻用户几乎每日都会使用AI产品来获取情感支持与陪伴。由此可见，AI的角色已发生根本性转变，它不再是冰冷无感的工具，而是演变为用户的社交对象、生活伙伴，甚至是更为亲密的协同者。

Soul App首席技术官、人工智能伦理与治理委员会主任委员陶明认为，企业一方面需要借助AI技术推动自然、真实且富有温度的交流体验，帮助用户更好地连接彼此；另一方面，则必须牢牢坚守安全、可信且向善的核心底线。

这对企业的AI伦理治理能力提出了极高的要求。AI伦理风险本身具有复杂性、跨界性，并且在不同的应用场景下，所面临的治理挑战也截然不同。具体而言，当前AI伦理治理主要面临哪些核心挑战？

Soul App首席技术官、人工智能伦理与治理委员会主任委员陶明。

陶明归纳了多个关键挑战。其一，必须清晰界定情感陪伴与情感依赖之间的边界。AI确实能够提供情绪价值，但如果缺乏合理的边界设定，用户很容易对AI产生不合理的依赖，甚至混淆现实与虚拟世界的界限。如何让AI既具备陪伴感，又避免制造不切实际的期待？这是整个行业需要共同面对的核心课题。

其二，需要在安全治理与用户体验之间实现审慎平衡。若审核标准过于宽松，内容风险便容易滋生；若标准过于严苛，则又会妨碍用户进行正常的交流互动。在提升内容审核精度的同时，保持AI对话的流畅自然，这种尺度的拿捏需要持续探索和优化。

其三，对未成年人及弱势群体的保护需求日益提高。随着AI互动能力的不断增强，如何有效避免未成年人接触到不当内容？在用户面临心理危机或情绪脆弱等特殊场景下，如何提供更具责任感的回应？这些直接考验着平台的治理功底和技术能力。

此外，随着大模型能力的持续进化，模型幻觉、内容真实性、身份边界、数据隐私等问题，也成为行业共同关注的新挑战。陶明特别指出，尤其是在AI越来越逼近真人交互体验的背景下，确保用户能够清晰意识到自己正在与AI互动，并充分保障用户的知情权与选择权，是未来AI治理的重要方向。

Soul人工智能伦理与治理委员会的另一位外部委员、上海社会科学院新闻研究所互联网治理研究中心主任方师师则认为，AI陪伴的核心治理挑战兼具技术与社会双重层面。针对陪伴式AI可能引发的过度沉迷问题，技术上需要关注算法和模型的公平性、透明度以及问责机制；社会上则需要关注结构性因素——例如，那些需要情感关爱的群体，是否获得了足够的社会支持？公共文化设施是否提供了丰富多元的线下活动选择？其核心目标是引导用户将AI互动视为生活的一部分，而非情感的全部寄托，最终实现技术与社会的协同治理与平衡。

基于交互场景凝聚治理共识

“谈论治理不能仅仅停留在搭建空框架或空喊宏大的价值观层面。真正的治理，是在各行各业具体落地的过程中，由政府、行业、企业多方协作，共同探索出适配的模式。”上海市人工智能行业协会安全工作委员会秘书长、上海兰迪律师事务所高级合伙人殷雨薇这样表示。

Soul在这个时间节点成立人工智能伦理与治理委员会，可以说是恰逢其时。与通用大模型的发展路径不同，Soul作为一家专注于情绪感知与交互的AI生态公司，其技术内核是基于情绪感知、语音优先、面向多模态的交互大模型。在此技术基础上，Soul构建了“自有应用—产业生态”的双层应用体系。对内，以Soul App等真实社交场景为载体，持续迭代模型的交互能力；对外，则利用SoulX模型能力为产业链赋能，向具身智能、内容创作演艺等行业输出情绪感知与交互决策方案。这些丰富的实践，都已成为构筑Soul AI伦理治理体系的重要基石。

随着技术成熟度的提升、市场格局的稳定以及社会关注度的增加，企业的伦理治理正在从被动应对转向主动构建。方师师认为，AI伦理治理最好从企业实践中的具体场景出发，聚焦于实际问题，在局部取得小范围突破后，再逐步抽象提炼，最终沉淀为行业标准和广泛共识。

围绕AI虚拟人、AI语音互动、AI内容创作等生成式场景，Soul一直在持续推进AI伦理治理体系建设，逐步构建了一个集输入治理、生成治理、输出治理、风险干预、用户保护于一体的生态治理体系。尤其是针对未成年人群体，他们建立了专项保护体系，强制规定不向未成年人提供虚拟人服务，并上线了青少年模式。

针对当前AI生成违规内容成本低、传播速度快、隐蔽性强的治理难题，Soul搭建了“以AI对抗AI”的智能治理体系，构建了“动态采集—AI深度分析—智能决策—智能执行”的智能对抗链条，将安全防护能力进行模块化整合与体系化协同，持续提升平台在复杂网络环境下的主动防御能力和综合治理水平。

在虚拟人交互安全、行为边界及AI沉迷等问题上，Soul建立了一套AI虚拟人双向审核机制，实现了“用户侧审核+模型侧审核”的双重安全防护。针对模型的多轮对话场景，平台引入了上下文语义理解能力，不仅分析单句内容是否违规，还能预判连续对话中风险的演化趋势，显著提升了风险识别的准确性与稳定性。

同时，Soul在站内设置了显著的AI虚拟人标识，在虚拟人对话交互界面也设置了常态化的固定提示，明确告知用户当前正在与AI进行互动，充分保障用户的知情权，避免用户混淆AI与真人，从而产生错误认知或情感误判。今年3月，平台上线了“AI社交时长提醒”功能，引导长时间使用AI的用户适时从虚拟对话中“抽离”，保持与真实世界的连接。到了5月，Soul又在《社区公约》中进一步明确了AI的使用边界，引导用户进行合理使用。

汇聚多方智慧共建可信可控AI生态

为了更系统化地构建AI治理机制，Soul邀请了互联网治理、伦理学、社会学、青少年研究、法律等不同领域的专家担任外部委员，正式成立了人工智能伦理与治理委员会。上海市互联网业联合会会长姜迅表示，该委员会的成立，标志着Soul的AI伦理治理迈入了更加系统化、专业化的全新阶段。

委员会的职能清晰明确：制定AI伦理治理战略，确保与技术发展同步；对新技术和新产品开展前置伦理评估；定期组织AI伦理通识培训，提升全体员工的伦理素养；建立伦理事件的闭环管理机制，涵盖监测、研判、处置、反馈等各个环节。

根据章程，委员会还将根据治理工作实际需要设立专项治理小组，由公司内部安全、算法、技术、产品、法务、审核等不同业务领域的员工组成，聚焦于隐私保护、算法合规、人机互动体验、内容审核、未成年人保护等细分领域，配合委员会完成专项审查、调研以及技术优化工作。

Soul人工智能伦理与治理委员会的外部委员、上海市青少年研究中心主任李清川特别关注青少年群体。他认为，青少年与AI的关系，将会深刻影响一代人的社会认知和情感能力。全社会需要关注三个核心问题：一是规避拟真陷阱，虚拟人应当保持适度的“非人感”，或者增加显著的提示标识，让青少年始终能够清晰认识到自己在与AI互动。二是明确纠错机制，避免情绪识别模型在误判后对青少年造成二次伤害。三是塑造情感能力，充分利用平台积累的青少年社交行为数据，提炼典型场景，强化情感能力教育。

Soul App人工智能伦理与治理委员会外部委员、复旦大学马克思主义研究院副院长、伦理学博士李凌。

人工智能技术的迭代速度远超立法进程，传统的刚性监管模式难以适配，极易陷入“一管就死、一放就乱”的困境。李凌认为，AI伦理治理应当坚持敏捷治理与柔性治理的原则，以包容审慎的态度精准适配技术迭代的节奏，在守住安全底线的前提下，为技术创新和产业探索保留足够的试错空间和生长土壤。同时，还要坚持协同治理，构建“网信统筹、部门监管、智库支撑、企业落实、协会自律”的多元共治新格局，打破治理壁垒，形成对技术风险的全链条有效约束，跨越治理时机与强度难以把控的“科林格里奇困境”，推动人工智能技术向善发展。

陶明在最后介绍，委员会将紧紧围绕Soul“模型与应用一体化的AI生态公司”这一定位，始终坚持科技向善、技术为人、安全可控、普惠共治、公开透明的价值主张，采用技术治理与伦理审查相结合的方式，构建覆盖数据、算法、应用的全流程风控体系，整体提升企业负责任创新的能力。一方面，将进一步完善AI安全审核体系和风险防控能力，提升模型的可控性和可信度；另一方面，将积极与学界、行业开展广泛合作，探索符合社交场景特点的AI伦理规范建设，将数据合规、隐私保护、未成年人保护、内容向善、公平透明等核心理念贯穿于产品设计和技术应用的整个过程。

“我们希望将积累的安全理念，通过委员会向整个行业输出，服务于更广泛的产业界；同时，将AI能力更好地赋能到硬件陪伴、具身智能等产业领域，让我们的AI能力在更多实体场景中落地。”陶明表示，唯有如此，才能让技术价值得到放大，让社会效益得到延展，真正实现技术向善的终极目标。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Soul App成立人工智能伦理与治理委员会，推动负责任创新要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题