拒答率
拒答率是指AI模型在对话中主动拒绝回答用户问题的比例，通常用于评估模型的安全对齐水平与知识覆盖范围。过高的拒答率会降低用户体验，过低则可能带来安全风险。
一句话解释
拒答率是指在AI对话中，模型因为安全、知识边界或策略设定而拒绝回答用户问题的次数占总提问次数的比例。
为什么会被关注
随着大模型在客服、教育等场景的普及，用户在遇到模型拒绝回答时会产生挫败感。同时，如果模型过度拒绝，会掩盖其真实能力缺陷，因此平衡拒答与回答成为产品设计的核心挑战。
从安全角度看，拒答率过低意味着模型可能输出不当内容；过高则意味着模型过于保守，无法满足用户信息需求。监管部门和开发者都将拒答率作为衡量模型可信度的重要指标之一。
核心逻辑
模型会基于已设置的安全规则、知识库匹配度、置信度阈值等机制判断是否拒绝回答。当问题涉及敏感话题、超出知识范围或指令模糊时，模型会触发拒绝策略。
拒答率的计算通常采用测试集统计，包括随机输入预设的敏感问题、超纲问题以及正常问题，统计模型拒绝的比例。不同模型的安全基准测试会给出标准化拒答率参考值。
常见场景
在智能客服系统中，拒答率过高会导致用户投诉增加，因此产品经理会要求优化模型对常见问题的覆盖；而金融、医疗等合规要求高的场景，则倾向于维持较高的拒答率以规避法律风险。
在模型迭代测试阶段，测试工程师会分别评估拒答率与幻觉率，如果拒答率下降的同时幻觉率上升，则说明模型可能学会了乱回答，需要调整策略。
容易混淆的点
拒答率不同于幻觉率。幻觉率指模型生成虚假或错误信息，而拒答率指模型选择不回答。两者有时此消彼长，但并非线性关系。
拒答率也不同于召回率（信息检索指标）。召回率衡量相关内容的检索全面性，而拒答率是模型主动放弃回答的行为统计。注意不要将对话系统的“无法回答”率与拒答率混淆。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词大模型是指通过在海量数据上训练、拥有庞大参数规模的深度学习模型，其核心能力在于理解和生成人类语言及各类内容，是当前生成式AI（如ChatGPT）的技术基石。
安全对齐是指通过技术手段确保AI系统的行为、输出与人类的意图、价值观、伦理规范保持一致，避免生成有害、偏见或危险内容。它主要通过RLHF（基于人类反馈的强化学习）、规则约束、红队测试等方法实现，是大模型从实验室走向实际应用前的关键安全步骤。
安全护栏是AI大模型上线前必须配置的规则和算法，用于拦截有害输出、拒绝敏感指令、避免生成违法或违背伦理的内容。它就像给模型戴上“口罩”，确保回答安全合规。
幻觉率是衡量大模型生成不真实、无依据或自相矛盾内容比例的指标，它揭示了AI在回答事实性问题时的“说谎”倾向。理解幻觉率有助于评估模型可信度、选择应用场景并采取缓解措施。