SFT:大模型“精修”的关键一步
SFT(监督微调)是大型语言模型训练流程中的关键环节,旨在通过高质量的指令-回答数据对,让模型学会遵循人类指令、生成更安全、有用、符合特定格式的输出。
一句话解释
SFT(Supervised Fine-Tuning,监督微调)是在大规模预训练之后,使用精心标注的指令-回答数据对模型进行进一步训练的过程,目的是教会模型如何更好地理解和执行人类的指令。
为什么会被关注
随着ChatGPT等对话AI的普及,人们发现仅靠海量数据预训练的模型虽然知识丰富,但难以精准、安全地响应用户需求。SFT作为连接预训练‘通才’模型与实用‘专才’助手的关键桥梁,其数据质量和训练方法直接决定了AI助手的可用性和安全性,因此成为大模型落地应用的核心技术焦点。
核心逻辑
SFT的核心逻辑是‘示范教学’。开发者准备一个由(指令,期望回答)构成的数据集,例如‘写一封感谢信’对应一篇范文。模型在预训练获得的基础能力上,通过在这些高质量配对数据上进行有监督学习,调整自身参数,从而学会将用户的模糊指令映射为具体、合规、高质量的文本输出。这个过程本质上是将人类的偏好和任务格式‘注入’模型。
常见场景
1. 构建对话助手:如客服机器人、情感陪伴AI,通过SFT学习友好、专业的对话风格。
2. 生成特定格式文本:如代码生成、邮件撰写、报告总结,教会模型遵循严格的格式和内容要求。
3. 内容安全与合规:通过SFT数据引导模型规避有害、偏见或虚假信息的生成,是模型安全对齐的基础步骤。
4. 领域知识深化:在法律、医疗等专业领域,用专业问答数据微调,提升模型在垂直场景下的准确性和可靠性。
容易混淆的点
SFT常与‘预训练’和‘提示工程’混淆。预训练是模型从无标注海量数据中学习通用知识和语言模式;SFT是在此基础上用高质量标注数据做‘精修’。提示工程则是在模型训练完成后,通过设计输入文本来激发模型已有能力,不改变模型参数。此外,SFT与指令微调(IFT)概念高度重叠,常被视为同义词,但IFT更强调使用多样化的指令数据。SFT也常作为RLHF(人类反馈强化学习)的前置阶段,为其提供初始的、可控的模型。
本文内容用于 AI 热词解释和概念整理,仅供学习和理解参考。若涉及表述偏差或内容修正,欢迎联系站点进行更新。
相关热词法院AI应用是指人工智能技术在司法领域的落地实践,包括智能辅助办案、类案自动推送、裁判文书生成、庭审语音识别等,旨在提升审判效率与公平性,减轻法官事务性负担。
法院AI部署是指将语音识别、文书生成、类案推送等人工智能技术集成到法院办案流程中,旨在提升审判效率、降低人为差错,并推动司法透明化。近年来,各地智慧法院试点加速,AI从辅助工具逐渐嵌入核心业务环节。
法院AI训练指利用裁判文书、法律法规等数据,训练机器学习模型以辅助司法工作,如案件分类、证据分析、量刑建议等。它并非替代法官,而是通过技术手段提升效率与一致性,正成为智慧法院建设的核心环节。
法院AI仿真利用人工智能技术对法庭场景、审判程序、辩论逻辑进行数字化模拟,用于法律教学、案件预演、证据推演等场景,帮助法官、律师和法学院学生更直观地理解司法过程。
法院AI建模是指运用人工智能技术,尤其是大语言模型和机器学习算法,对案件的事实要素、法律条文和历史判例进行结构化建模,辅助法官完成证据审查、量刑参考和文书生成的技术方案。

