Verifier
Verifier（验证器）是一种用于评估和校验大模型生成结果是否符合预期标准的模块或系统。它通常与生成模型配合使用，通过打分、条件检查或多轮验证等方式，降低幻觉和错误输出的风险，在AI应用落地的可靠性保障中扮演核心角色。
一句话解释
Verifier就是一个专门用来检查AI模型输出“对不对”的裁判模块，它不负责生成内容，而是对生成结果进行二次校验，比如判断数学答案是否计算正确、代码是否无语法错误、文本是否包含事实性错误。
为什么会被关注
大模型在开放式任务中容易出现幻觉（编造事实）或逻辑偏差，仅靠模型自身难以彻底规避。Verifier作为外部验证层，能有效提升输出的可信度，尤其在医疗、金融、教育等对准确性要求极高的场景中，它成为保障AI应用安全落地的关键组件。
另外，在强化学习对齐（如RLHF）流程中，Verifier常与奖励模型配合，帮助模型在训练阶段就学会区分正确与错误答案，从而减少对齐过程中的人工标注成本。
核心逻辑
Verifier通常有两种实现路径：一种是基于规则或简单算法的硬性检查（如正则匹配、数值范围校验），另一种是利用另一个神经网络模型对输出进行概率或质量评分。后者常见于“验证器-生成器”双模型架构，生成器产出候选结果，验证器给出分数或通过/拒绝决定。
在高级场景中，Verifier还可以对结果进行多轮迭代优化：如果验证不通过，生成器会根据验证器的反馈重新生成，直到满足条件。这种“生成-验证-修正”循环显著提升了最终输出的可靠性。
常见场景
数学推理与解题验证：比如验证大模型计算的数学题答案是否正确，通过符号计算或分步检查消除算术错误。
代码生成校验：在AI编程助手中，Verifier可以编译或运行生成的代码片段，检查是否存在语法错误或逻辑bug，确保交付的代码可用。
事实性内容核查：结合外部知识库或搜索引擎，Verifier可以比对模型输出的声明与可信源的一致性，降低知识类任务中的幻觉风险。
容易混淆的点
Verifier与Reward Model（奖励模型）的主要区别：奖励模型通常用于训练阶段，为整个输出序列给出一个综合分数；而Verifier常部署在推理阶段，对单个结果进行具体验证，甚至能提供局部错误定位。
Verifier并不等同于“事实核查工具”。虽然事实核查是常见应用，但Verifier的覆盖范围更广，还能验证逻辑合理、格式合规、安全合规等，是一个更通用的校验框架。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词Reward Model（奖励模型）是强化学习中用来评估AI行为好坏的评分系统。在大模型训练中，它把人类偏好转化为分数，指导模型生成更符合预期的内容，是RLHF的核心组件。
RLHF是一种通过人类反馈来训练和微调AI模型的技术。它让模型不仅能理解指令，还能学习人类的偏好和价值观，从而生成更安全、更有用、更符合预期的回答。这是ChatGPT等对话模型变得“善解人意”的核心原因之一。
监督微调（SFT）是AI模型开发中的关键环节，指在通用大模型预训练完成后，使用高质量、有标注的任务特定数据对其进行进一步训练，使其适应具体下游任务（如对话、编程、分析）的过程。