AI漏洞定义引争议:微软提示注入与安全专家交锋
1月7日消息,科技媒体bleepingcomputer昨日(1月6日)发布博文,称微软近日驳回了一名安全工程师提交的关于Copilot的四项安全漏洞报告,引发了行业关于“AI漏洞”定义的激烈争论。

网络安全工程师John Russell近日在LinkedIn发文透露,他向微软提交了4个关于Copilot的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。
Russell指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过Base64编码绕过文件上传策略,以及在Copilot隔离的Linux环境中执行命令。
其中最值得关注是绕过文件上传策略。通常情况下,Copilot会拦截高风险格式的文件。但Russell发现,只要将这些文件编码为Base64文本字符串,就能骗过初步检测。
援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导AI泄露其核心“系统提示词”的方法。
微软判定这些问题未跨越安全边界,属于“AI已知局限”而非需修复的漏洞。Russell反驳称,竞争对手Anthropic的Claude模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。
该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。
这一事件在安全社区引发了分歧。安全研究员Cameron Criswell等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。
OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
国产内存新架构突破30TB带宽实现自主供应链
随着人工智能技术从模型训练大规模转向实际应用部署,AI算力的需求重心正发生深刻变化。一个关键的行业转折点已经到来:单纯追求算力峰值不再是唯一焦点,内存带宽与延迟正成为制约性能提升的新瓶颈。如何构建高带宽、低延迟、高能效的内存子系统,已成为全球AI芯片行业必须攻克的核心挑战。近期,国内科技企业在这一前
Edge浏览器网页捕获功能使用教程 截取全屏与区域截图详解
Edge浏览器内置了强大的网页截图功能,无需安装插件。可通过右上角菜单、快捷键Ctrl+Shift+S、网页右键菜单、开发者工具命令或地址栏常驻按钮启动。支持截取整个长网页或自定义选定区域,截图后可直接编辑保存。
千度手机版官网免费入口手机端专用访问链接
千度是一个免注册、无广告的教育信息服务平台,提供资料库、文苑、课栈等核心板块。平台内容涵盖广泛学习资料,支持离线缓存与语义搜索,移动端设计简洁,无广告干扰。所有资源免费开放,不收集用户敏感信息,无商业化会员体系,注重隐私保护与内容纯粹性。
ES文件浏览器复制文件内容到剪贴板详细步骤教程
使用ES文件浏览器复制文件时,需先开启剪贴板悬浮按钮。长按文件可呼出菜单进行复制,也可批量选择多个文件一并复制。如需复制文件路径,则需长按文件进入属性页面,手动复制路径文本。若使用平板或外接键盘,还可通过Ctrl+C快捷键快速完成复制操作。
如何设置鼠标连点器的固定点击间隔秒数
鼠标连点器通过设定毫秒级点击间隔实现精准自动化操作。用户需将目标秒数换算为毫秒值进行设置,并可配置热键、点击按键与固定坐标。建议正式使用前进行测试验证,并注意避免间隔过短或安全软件拦截,以保障运行稳定。
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题

