ChatGPT封锁模式上线防数据泄露,联网与智能体功能受限
ChatGPT推出封锁模式,限制实时网页浏览、深度研究与智能体功能,仅能访问缓存内容,以此降低提示注入攻击导致的数据泄露风险。该模式可手动开启或由管理员统一配置,不影响基础功能。
近日,OpenAI为其广受欢迎的ChatGPT推出了一项名为“封锁模式”的可选安全设置。这项功能的推出,标志着AI应用在追求强大功能的同时,正面临日益严峻的安全挑战。对于普通用户和企业管理员而言,这意味着需要在AI助手的便利性与数据安全风险之间做出更明确的权衡。

根据官方信息,封锁模式目前已面向所有已登录用户开放。个人用户可以在“设置-安全”选项中手动开启,而企业工作区的管理员则可以通过工作区设置和角色权限进行统一配置。这一模式的核心设计思路,并非试图让AI模型识别所有潜在的恶意指令,而是通过限制其最危险的攻击路径——向外部发起网络请求——来降低风险。
功能限制的具体内容
开启封锁模式后,ChatGPT的多项联网和高级功能将受到直接影响。实时网页浏览功能将被限制,模型仅能访问缓存内容,这可能导致搜索结果不完整、不可用或已过期。同时,模型在普通回复中将不再主动从网络检索并展示图片,但用户自行上传图片文件以及图片生成功能不受影响。
此外,两项重要的进阶功能将被关闭:一是“深度研究”模式,二是“智能体模式”。这意味着ChatGPT将无法从网络下载文件用于数据分析,只能处理用户手动上传的文件。由Canvas生成的代码也将无法获得联网访问的权限。
安全风险与应对策略
此次更新主要针对的是“提示注入攻击”。这种攻击方式是指攻击者将恶意指令隐藏于网页、文档或其他外部内容中。当ChatGPT读取这些内容时,模型可能被诱导忽略原有的安全规则,执行非预期的操作,在严重情况下,甚至可能将用户输入的敏感信息通过联网能力发送至外部服务器。
OpenAI在帮助文档中明确指出,封锁模式并不能保证提示注入攻击彻底失效。恶意指令仍可能出现在缓存的网页内容里,也可能隐藏于用户上传的文件中,并继续影响ChatGPT的回答行为或准确性。这反映出AI产品面临的一个核心矛盾:模型越能联网、调用工具、代表用户执行任务,其遭受攻击的潜在入口就越大。
值得留意的是,封锁模式不会改变对话记忆、文件上传、分享对话等基础功能,也不会影响对话数据是否被用于改进模型。相关的数据控制设置仍需通过数据控制面板或企业管理员权限进行单独管理。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:ChatGPT封锁模式上线防数据泄露,联网与智能体功能受限要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点工信部最新申报信息揭示了问界M6纯电四驱高功率版的详细参数。新车最大亮点在于动力系统的全面升级,其前后双电机综合功率高达454千瓦,远超现款车型。此外,新车最高时速可达200公里 小时,并搭载宁德时代磷酸铁锂电池。车身尺寸方面则与现款保持一致,长宽高分别为4960 1985 1736毫米,轴距295
近期高校毕业典礼上,演讲者提及人工智能时常引发台下嘘声,凸显公众对AI技术发展的担忧。微软总裁布拉德·史密斯呼吁行业必须严肃回应公众关切,并分享其母校普林斯顿毕业生因怀疑设计借助AI而否决毕业典礼夹克方案的事例。史密斯主张AI应增强而非取代人类能力,认为技术渗透经济的速度可能慢于预期。微软计划今年投
vivo即将发布的XFold6折叠屏手机聚焦于提升移动办公体验,定位为“AI轻办公神器”。其核心亮点在于强大的跨设备协同能力,支持通过vivo办公套件与Windows或Mac电脑联动,部署功能丰富的PC版“小VClaw”智能助手,内置超30个开源Skills并支持自定义。同时,新机还将搭载全新升
苹果VisionPro旅行舱已在英国、日本等多国下架,仅在美国等少数市场销售。该产品线投入缩减、团队解散,VisionAir项目取消,未来重心转向智能眼镜等可穿戴设备。
- 日榜
- 周榜
- 月榜
热点快看
