王巍：AI安全风险加速外溢 需多方协同共建可信治理
随着大模型与智能体加速落地，AI安全风险从内容层面向传播、决策与执行链条外溢，成为系统性挑战。治理需从事后补救转向全流程前置防控，关注智能体“做错事”的新风险，协同应对深度伪造、算法偏见等交织问题，保障用户信任与信息环境公信力。
7月15日，一场聚焦“前沿人工智能安全风险的协同治理”的专题研讨会在北京召开。此次会议由世界互联网大会人工智能专业委员会主办，会上微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍，结合社交传播平台的一线实践视角，分享了内容行业应对AI安全风险的思考与落地策略。
核心判断是：随着大模型、生成式AI和智能体应用的加快落地，人工智能的能力持续提升，但风险也随之向外扩散。而且，这种风险已从单纯的“内容层面”悄然延伸至传播链条、决策链条甚至执行链条。换言之，AI安全早已不再是一个纯粹的技术问题，而是一个需要多方协同才能应对的系统性挑战。
那么，这个“系统性”究竟体现在哪些方面？一方面，模型偏差、幻觉、漏洞等技术本身的风险，正在加速进入真实传播环境——它们不再只是实验室里的bug，而是切实影响着用户判断、社会信任乃至舆论秩序。另一方面，风险后果不断外延，AI带来的影响已经超出了“内容准不准”的范畴。面对这一局面，安全治理的思维也必须随之转变：不能再依赖事后补救，而应主动前移，将前置防控嵌入模型、平台、产品、应用的全流程之中。
更值得关注的是智能体兴起带来的新变化。过去我们谈AI治理，主要对象是“内容”——它说了什么、写得对不对。但现在智能体不仅生成信息，还开始调用工具、连接系统、执行流程。风险范畴自然随之扩展：从“说错话”变成了“做错事”。责任边界该如何认定？这比单纯的模型评估复杂得多。因此，治理重心也必须相应调整，不能只盯着单一模型，而要覆盖应用全链路，紧盯真实的执行场景。
落到具体场景中，王巍结合平台实践提到：AI能力加速进入真实场景后，内容安全和用户信任成为平台绕不开的两道坎。深度伪造内容持续冲击着真实与虚假的边界；算法偏见可能在无意中放大认知偏差；生成式内容还可能在传播过程中加速错误信息的扩散——这些问题彼此交织，不仅让平台的治理压力陡增，也对整个信息环境的公信力提出了更高要求。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：王巍：AI安全风险加速外溢 需多方协同共建可信治理要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点让Obsidian与Dify强强结合，打造AI时代的智能知识库！一键同步，彻底告别低效搜索。核心内容：1 Obsidian原生搜索的局限性及AI调用痛点2 向量数据库技术如何提升知识检索效率3 自制Obsidian-Dify同步插件的完整配置指南 最近一直在钻研一个课题：将Obsidian打造
传统RAG在应对复杂问题时，往往表现出“一刀切”的局限——检索与生成线性串联，一旦遇到需要多步推理、交叉验证的任务，便会陷入僵局。核心症结在于：问题无法有效拆解、工具选择不够灵活、出错后缺乏自我修正能力，这才是导致RAG“力不从心”的真正根源。 以典型场景为例。用户提问：“对比公司Q1和Q2的销售数
先说一个真实案例。某个技术团队在把自家定制的 Dify 客服系统从 v1 7 0 升级到 v1 9 1 时，工作流引擎和权限系统直接“掐架”，代码冲突导致服务中断了整整 4 个小时。这件事还真不是个例。根据 Dify 社区 2025 年的一份开发者调研，83% 的二次开发项目在官方版本升级时都会遇到
AI智能体正面临一个颇为棘手的问题——“上下文腐烂”危机，性能随着信息不断堆积而急剧下滑。最近，LangChain与Manus创始人的一场深度对话，首次公开了顶级AI智能体上下文工程的五大黄金策略，试图破解这个难题。核心内容涵盖：AI智能体面临的“上下文腐烂”危机及其成因分析；五大核心策略——卸载、
- 日榜
- 周榜
- 月榜
热点快看