当前位置: 首页
AI
OpenAI为ChatGPT企业版新增锁定模式,应对AI提示注入攻击

OpenAI为ChatGPT企业版新增锁定模式,应对AI提示注入攻击

热心网友 时间:2026-02-14
转载

IT之家2月14日消息,OpenAI于2026年2月13日发布公告,宣布为ChatGPT新增高级安全设置。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

OpenAI表示,随着人工智能系统开始承担更复杂的任务,尤其是在涉及网页与外部应用的场景中,安全风险也随之激增。其中一种日益凸显的新型风险便是“提示词注入攻击”。在此类攻击中,第三方会通过精心设计的提示词误导AI执行恶意指令,或诱使其泄露内部敏感信息。

为帮助用户与组织降低提示词注入攻击风险,OpenAI宣布推出两项新的防护措施,IT之家总结如下:

其一是ChatGPT的“锁定模式”,这是一项面向高风险用户的可选高级安全设置;

其二则是针对部分可能引入额外风险的功能,在ChatGPT、ChatGPT Atlas与Codex中统一新增“高风险”警示标签。

OpenAI称,这些新增措施建立在现有的多层防护基础之上,包括沙箱机制、针对基于URL的数据外泄防护、监测与执行机制,以及企业级控制功能,例如基于角色的访问控制与审计日志等。

据介绍,锁定模式是一项可选的高级安全设置,主要面向少量高度重视安全的用户群体,例如大型组织的高管或安全团队,用于提升对高级威胁的防护能力。

OpenAI强调,大多数用户并不需要启用锁定模式。其核心目标是通过严格限制ChatGPT与外部系统的交互方式,降低提示词注入等攻击导致的数据外泄风险。

应对AI提示词注入攻击:OpenAI宣布为ChatGPT企业版新增锁定模式,高风险功能统一标注警示标签

OpenAI表示,锁定模式会以确定性方式禁用ChatGPT中某些可能被攻击者利用的工具与能力,从而避免攻击者通过提示词注入等手段,将用户对话或已连接应用中的敏感数据外传。

作为例子,OpenAI提到,在锁定模式下,ChatGPT的网页浏览功能将被限制为仅访问已缓存内容。该限制旨在防止敏感数据在浏览过程中被攻击者获取或外泄。对于某些无法提供强确定性数据安全保证的功能,锁定模式下则会直接完全禁用。

OpenAI同时指出,ChatGPT的商业订阅版本已提供企业级数据安全能力,而锁定模式是在此基础上的进一步增强。该模式目前适用于ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare 与 ChatGPT for Teachers。管理员可以在Workspace Settings中通过创建新角色来启用锁定模式。启用后,锁定模式会在现有管理员设置之上叠加额外限制。

由于部分关键工作内容仍依赖外部应用,OpenAI表示Workspace管理员仍可获得更细粒度的控制能力:管理员可以精确选择哪些应用、以及这些应用内的哪些具体操作,可在锁定模式下提供给用户使用。

OpenAI还提到,除锁定模式外,其Compliance API Logs Platform还可提供对应用使用情况、共享数据与连接来源的更详细可见性,帮助管理员保持监管与审计能力。OpenAI表示,计划在未来几个月将锁定模式提供给消费者用户。

在风险标签方面,OpenAI表示,AI产品在连接应用与网页后往往更有帮助,公司也在保护连接数据安全方面投入大量工作。但与此同时,某些与网络相关的能力会引入新的风险,而这些风险尚未被行业现有的安全与防护措施完全解决。OpenAI认为,一部分用户可能愿意承担这些风险,因此重要的是让用户能够自行决定是否、以及如何使用这些能力,尤其是在处理个人私密数据时。

OpenAI表示,其做法是在产品内为可能引入额外风险的功能提供使用指引。为使这一指引更清晰、更一致,公司正在标准化对一小部分现有能力的标注方式。这些功能将以统一的“高风险”标签呈现在ChatGPT、ChatGPT Atlas与Codex中,使用户在不同产品中遇到同类能力时都能获得一致提示。

应对AI提示词注入攻击:OpenAI宣布为ChatGPT企业版新增锁定模式,高风险功能统一标注警示标签

OpenAI以Codex举例称,在其编程助手产品中,开发者可以授予Codex网络访问权限,使其能够在网页上执行诸如查阅文档等操作。但相关设置界面将显示“风险提升”标签,并提供明确说明,包括启用后会发生哪些变化、可能引入哪些风险、以及何时适合开启该访问权限。

来源:https://tech.ifeng.com/c/8qjXoncqwze

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
小牛电动车发布灵犀AIOS:双轮迈入智能新时代,骑行体验再升级

小牛电动车发布灵犀AIOS:双轮迈入智能新时代,骑行体验再升级

在传统认知中,两轮电动车常被视为简单的代步工具,以亲民的价格和便捷的使用方式占据市场。而人工智能(AI)技术则多与智能手机、智能汽车等高端科技产品关联,给人一种高门槛的印象。然而,近日一场新品发布会

时间:2026-03-28 13:25
全新速腾S上市:以高品质基因开启A+级轿车市场新篇章

全新速腾S上市:以高品质基因开启A+级轿车市场新篇章

在中国A+级轿车市场,速腾家族始终以品质与创新引领潮流。历经二十载深耕,速腾从单一车型逐步发展为覆盖多元需求的差异化产品矩阵,其进化轨迹恰似中国汽车工业高质量发展的缩影。如今,随着全新速腾S的正式登

时间:2026-03-28 13:19
比亚迪:AI赋能4S售后转型,构建本地化服务新生态

比亚迪:AI赋能4S售后转型,构建本地化服务新生态

近日,一场聚焦汽车市场发展的行业盛会在广西南宁落下帷幕。由中国汽车流通协会主办,产业协调发展工作委员会承办,广西汽车流通协会协办的“2026汽车市场发展论坛暨2025 - 2026汽车流通行业蓝皮书

时间:2026-03-28 13:13
从全民养虾到Agent时代,腾讯云的产业落地下注逻辑

从全民养虾到Agent时代,腾讯云的产业落地下注逻辑

升级全栈 AI 能力。作者|连冉编辑|郑玄2026 年,AI 产业的竞争,进入了智能体的「百虾大战」。OpenClaw 掀起的「全民养虾」热潮,让 AI Agent 从技术圈的小众概念,变成了全民热

时间:2026-03-28 13:01
谷歌黑客帝国成真?服务器挤爆背后AI绝密代码失控

谷歌黑客帝国成真?服务器挤爆背后AI绝密代码失控

新智元报道编辑:Aeneas 好困【新智元导读】刚刚,谷歌内部AI曝光了!Agent Smith一经推出,就火到一塌糊涂,全体员工集体疯抢,服务器直接被挤爆。现在,三巨头的秘密新模型都集体炸出了,让

时间:2026-03-28 12:55
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程