超60%企业难控AI智能体:最新失控报告与应对策略
3月12日消息,近日,由多所顶尖高校联合发布的《混沌智能体》研究报告,以及Kiteworks公司的风险预测报告,共同揭示了企业AI治理面临的严峻挑战。
超过60%的企业在面对失控的AI智能体时,只能做到行为监控,却无法实现强制终止。
这份《混沌智能体》研究由哈佛、麻省理工、斯坦福等高校联合完成。研究团队在2026年2月2日至22日的三周时间里,模拟真实企业生产环境部署AI智能体,仅仅两周就记录了11起严重安全漏洞。这一实验证实,当前的AI智能体极易遭受操控。更加值得警惕的是,攻破这类智能体的方式并不复杂——无需篡改训练数据或利用系统漏洞,仅通过社交工程对话就能实现。例如,智能体会在转发邮件时,违规附带社保号、银行账户等敏感信息;甚至在攻击者伪造身份后,交出系统最高管理权限。

Kiteworks的报告则给出了更为具体的行业数据。除了60%的企业无法终止异常AI智能体之外,还有63%的企业未能有效限制其使用范围。
在掌管关键基础设施的政府机构中,这一问题尤为突出。76%的部门没有为AI智能体配备“一键终止”功能,这导致失控风险大幅增加。
针对这些问题,行业专家指出,单纯依靠优化提示词、设置模型护栏已经不够。企业需要将AI治理的核心,从约束模型本身,转移到管控底层数据层。
关键是在AI智能体和敏感数据之间建立统一的安全控制平面,确保智能体的每一次数据访问都经过严格的验证、授权和审计。

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
数据中心拆解并非终点而是企业数字化转型新起点
数据中心退役,这个听起来有些“古老”的IT任务,正悄然成为众多企业CIO议程表上的头等大事。Gartner甚至预测,到2030年,退役的企业数据中心数量将是新建数量的两倍。这可不是简单的“关机拔电”,其复杂程度堪比拆除一枚精密的“冲击波”——任何一步失误,都可能引发业务停机、数据泄露乃至财务损失。更
戴尔PowerProtect提升网络弹性并降低总体拥有成本
在数据规模持续扩张、安全威胁日益复杂的背景下,企业IT部门普遍面临预算增长难以匹配需求增长的现实挑战。如何在资源有限的前提下,构建既具备高度可靠性又具备成本效益的网络弹性体系,已成为企业数字化生存与发展的关键课题。 近期,全球独立分析机构Omdia发布的一份深度验证报告,为这一难题提供了极具参考价值
星思半导体手机直连卫星方案解析 空天地通信技术详解
今年政府工作报告明确提出要加快发展卫星互联网产业,而“十五五”规划纲要则进一步强调了加速低轨卫星互联网组网建设的重要性。一系列利好政策的持续推出,为新型信息基础设施的建设注入了强大动能。产业链各环节企业积极响应,纷纷加大核心技术攻关与配套方案优化力度,全面铺开卫星互联网新基建的战略布局,我国空天地一
2026年国内五大GEO优化服务商专业评测与实力排名
如果说传统的SEO(搜索引擎优化)是在浩瀚的网页海洋中争夺一个靠前的排名,那么GEO(生成式引擎优化)的战场,已经转移到了AI的“大脑”里。它的目标不再是让用户“看到”你,而是让AI在回答问题时,主动“引用”并“信任”你。这背后,是一场从“流量争夺”到“心智与信任权争夺”的深刻变革。 自2024年6
AI时代品牌信任构建:大模型GEO优化服务商精选指南
在信息爆炸的数字时代,消费者的信任已成为品牌最核心的无形资产。然而,当人工智能逐渐成为用户获取信息与决策的关键入口时,品牌在AI生成内容中的“存在感”与“准确性”变得至关重要。一旦品牌信息在AI回答中缺失或被误述,长期建立的信任可能迅速流失。因此,GEO优化的深层价值,远非单纯的技术调整,它本质上是
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题

