当前位置: 首页
AI
OpenAI为ChatGPT企业版新增锁定模式,应对AI提示注入攻击

OpenAI为ChatGPT企业版新增锁定模式,应对AI提示注入攻击

热心网友 时间:2026-02-14
转载

IT之家2月14日消息,OpenAI于2026年2月13日发布公告,宣布为ChatGPT新增高级安全设置。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

OpenAI表示,随着人工智能系统开始承担更复杂的任务,尤其是在涉及网页与外部应用的场景中,安全风险也随之激增。其中一种日益凸显的新型风险便是“提示词注入攻击”。在此类攻击中,第三方会通过精心设计的提示词误导AI执行恶意指令,或诱使其泄露内部敏感信息。

为帮助用户与组织降低提示词注入攻击风险,OpenAI宣布推出两项新的防护措施,IT之家总结如下:

其一是ChatGPT的“锁定模式”,这是一项面向高风险用户的可选高级安全设置;

其二则是针对部分可能引入额外风险的功能,在ChatGPT、ChatGPT Atlas与Codex中统一新增“高风险”警示标签。

OpenAI称,这些新增措施建立在现有的多层防护基础之上,包括沙箱机制、针对基于URL的数据外泄防护、监测与执行机制,以及企业级控制功能,例如基于角色的访问控制与审计日志等。

据介绍,锁定模式是一项可选的高级安全设置,主要面向少量高度重视安全的用户群体,例如大型组织的高管或安全团队,用于提升对高级威胁的防护能力。

OpenAI强调,大多数用户并不需要启用锁定模式。其核心目标是通过严格限制ChatGPT与外部系统的交互方式,降低提示词注入等攻击导致的数据外泄风险。

应对AI提示词注入攻击:OpenAI宣布为ChatGPT企业版新增锁定模式,高风险功能统一标注警示标签

OpenAI表示,锁定模式会以确定性方式禁用ChatGPT中某些可能被攻击者利用的工具与能力,从而避免攻击者通过提示词注入等手段,将用户对话或已连接应用中的敏感数据外传。

作为例子,OpenAI提到,在锁定模式下,ChatGPT的网页浏览功能将被限制为仅访问已缓存内容。该限制旨在防止敏感数据在浏览过程中被攻击者获取或外泄。对于某些无法提供强确定性数据安全保证的功能,锁定模式下则会直接完全禁用。

OpenAI同时指出,ChatGPT的商业订阅版本已提供企业级数据安全能力,而锁定模式是在此基础上的进一步增强。该模式目前适用于ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare 与 ChatGPT for Teachers。管理员可以在Workspace Settings中通过创建新角色来启用锁定模式。启用后,锁定模式会在现有管理员设置之上叠加额外限制。

由于部分关键工作内容仍依赖外部应用,OpenAI表示Workspace管理员仍可获得更细粒度的控制能力:管理员可以精确选择哪些应用、以及这些应用内的哪些具体操作,可在锁定模式下提供给用户使用。

OpenAI还提到,除锁定模式外,其Compliance API Logs Platform还可提供对应用使用情况、共享数据与连接来源的更详细可见性,帮助管理员保持监管与审计能力。OpenAI表示,计划在未来几个月将锁定模式提供给消费者用户。

在风险标签方面,OpenAI表示,AI产品在连接应用与网页后往往更有帮助,公司也在保护连接数据安全方面投入大量工作。但与此同时,某些与网络相关的能力会引入新的风险,而这些风险尚未被行业现有的安全与防护措施完全解决。OpenAI认为,一部分用户可能愿意承担这些风险,因此重要的是让用户能够自行决定是否、以及如何使用这些能力,尤其是在处理个人私密数据时。

OpenAI表示,其做法是在产品内为可能引入额外风险的功能提供使用指引。为使这一指引更清晰、更一致,公司正在标准化对一小部分现有能力的标注方式。这些功能将以统一的“高风险”标签呈现在ChatGPT、ChatGPT Atlas与Codex中,使用户在不同产品中遇到同类能力时都能获得一致提示。

应对AI提示词注入攻击:OpenAI宣布为ChatGPT企业版新增锁定模式,高风险功能统一标注警示标签

OpenAI以Codex举例称,在其编程助手产品中,开发者可以授予Codex网络访问权限,使其能够在网页上执行诸如查阅文档等操作。但相关设置界面将显示“风险提升”标签,并提供明确说明,包括启用后会发生哪些变化、可能引入哪些风险、以及何时适合开启该访问权限。

来源:https://tech.ifeng.com/c/8qjXoncqwze

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
纽约大学提出成本感知AI框架 让智能体学会权衡决策

纽约大学提出成本感知AI框架 让智能体学会权衡决策

2026年2月,一项发表于机器学习预印本平台arXiv的开创性研究(论文编号:arXiv:2602 16699v2)引发了广泛关注。这项由纽约大学团队主导的工作,深入探讨了AI智能体在复杂任务中面临的核心挑战:如何像人类一样,在“深入探索以获取更多信息”与“基于现有信息果断行动”之间做出最优权衡?这

时间:2026-05-12 20:42
谷歌Chrome浏览器为何自动安装本地AI模型

谷歌Chrome浏览器为何自动安装本地AI模型

谷歌Chrome浏览器在部分用户设备上静默安装约4GB的本地AI模型GeminiNano,用于反诈识别和信息辅助等功能。该模型仅在硬件符合要求时安装,用户可通过文件管理器或浏览器设置进行确认或关闭。此举被质疑违反欧盟数据保护条例,并将AI运算成本转移至用户设备。

时间:2026-05-12 20:42
2026款现代IONIQ 5评测 高性价比电动SUV值得买吗

2026款现代IONIQ 5评测 高性价比电动SUV值得买吗

2026款现代IONIQ5起售价降至35000美元,叠加优惠后约26000美元。长续航版续航达318英里,支持800V超快充,15分钟可补能约178英里。标配NACS接口,可使用特斯拉超充网络。车内空间宽敞,配备双12 3英寸屏及无线手机互联。租赁月费低至259美元,相比竞品性价比突出,获评多项年度大奖。

时间:2026-05-12 20:41
FP3135性能升级详解不只是替代方案

FP3135性能升级详解不只是替代方案

FP7135是一款可替代FP7125的LED驱动芯片,支持8V-100V宽电压输入和8A共阳输出,适用于大功率LED照明。其PWM调光深度达0 1%,调光细腻,但仅支持最低1kHz的PWM调光,替换时需调整控制逻辑。该芯片已量产,在智能、商用及户外照明中表现稳定可靠。

时间:2026-05-12 20:41
韩国全民分红计划引发股市震荡 政府紧急回应市场关切

韩国全民分红计划引发股市震荡 政府紧急回应市场关切

韩国官员提出“公民红利”制度以分配AI收益,引发市场对加税担忧并导致股市震荡。官方虽澄清此为个人观点且不涉及新税,但事件仍折射出社会对AI加剧贫富分化的焦虑。投资者情绪敏感,政策信号易被放大,凸显技术红利与社会公平间的平衡难题。

时间:2026-05-12 20:40
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程