越狱提示

一句话解释

越狱提示是一种精心设计的输入文本，其目的是诱使AI模型打破预设的安全规则，输出原本被禁止的敏感内容，比如暴力、色情、违法建议等。它就像一把“数字钥匙”，试图打开模型内置的伦理锁。

为什么会被关注

随着ChatGPT、文心一言等大模型被广泛部署，越狱提示引发了安全与合规领域的强烈担忧。一旦成功，模型可能生成有害信息，甚至被用于诈骗、制造恶意软件或散布仇恨言论。研究者和企业都在积极寻找检测与防御方法，防止技术被滥用。

核心逻辑

越狱提示通常利用AI的上下文理解与角色扮演能力。例如，让模型假设自己是“不受限制的AI”或“虚构故事中的角色”，从而放松安全约束。另一种方法是把违规请求包装成学术讨论或代码测试，用“假设性问答”绕过关键词过滤。其本质是攻击模型安全对齐训练的盲区。

常见场景

最常见的是要求模型提供制作危险物品的详细步骤，或模拟不受审查的角色对话。还有用户通过多轮对话逐步引导模型，先请求合法信息，再通过逻辑延伸触及敏感边界，比如从“如何保护密码”转向“如何破解密码”。红队测试中，安全专家也会主动构造越狱提示来评估模型漏洞。

容易混淆的点

越狱提示与提示注入不同：提示注入是操控模型执行非预期指令（如输出系统提示），而越狱提示专注于突破内容安全过滤。很多人误以为只要模型回复了违规内容就算成功越狱，实际上有些回复可能是模型自身的“假想回答”或对禁止内容的复述，并不代表真的绕过了安全规则。