指令微调中ShareGPT数据集的价值与数据准备指南

很多人直接把ShareGPT数据灌进ChatGLM、LLaMA或Vicuna做指令微调，结果发现样本丢失、tokenization错位，甚至loss莫名其妙地炸了。其实问题根源很清楚：ShareGPT的多轮对话结构和SFT要求的三元组范式根本不搭。解决路径无非是语义解析、Alpaca格式转换、LLaMA-Factory模板直连，再加上指令前缀增强和三项硬性校验。

如果你计划把ShareGPT数据集用到ChatGLM、LLaMA或Vicuna的指令微调中，但发现训练时样本丢失、tokenization错位或loss异常震荡，那大概率是因为ShareGPT的原始结构没有对齐目标模型的SFT输入范式。下面就把数据准备的完整流程拆开来讲。

一、理解ShareGPT结构与指令微调目标的语义鸿沟

ShareGPT数据本质上是真实的用户与模型多轮对话日志，包含human、gpt、function_call、observation等角色字段，还有可选的system提示，设计目标就是还原对话流。而标准指令微调需要明确区分instruction（任务意图）、input（上下文或条件）、output（期望响应）三元组，两者在信息粒度、角色映射和训练信号构造上存在结构性不匹配。这一步的核心是识别原始conversations里哪些片段承载指令语义、哪些是隐式上下文、哪些属于工具执行中间态，避免把observation或function_call误标成output。

具体操作上：

1. 打开任意ShareGPT样本，定位conversations数组内首条from: "human"字段，该value通常承载初始任务意图，应作为instruction候选。

2. 检查后续from: "gpt"是否直接回应首条human，若是，则该gpt value可视为output；如果中间插入了function_call与observation，那就把function_call+observation整体视为工具调用过程，只有末尾的gpt value才是最终output。

3. 如果conversations以from: "system"开头，且内容包含角色设定（比如“你是一名资深律师”），那么该system内容应该合并到instruction前缀，格式为“[系统角色]：{system_value}\n{first_human_value}”。

二、手动转换ShareGPT为Alpaca兼容格式

这种方法适用于需要完全控制字段语义、排除LLaMA-Factory模板自动推断误差的场景，尤其适合那些带复杂tool调用链或非标准human/gpt交替序列的样本。转完后的标准JSONL文件，每行严格符合{"instruction": "...", "input": "...", "output": "..."}结构，可以直接被Hugging Face Datasets、Axolotl等主流训练框架原生加载。

操作步骤：

1. 新建Python脚本parse_sharegpt.py，导入jsonlines库用于流式写入。

2. 逐行读取原始sharegpt_zh.json，对每个样本执行：提取conversations列表，初始化instruction、input、output为空字符串。

3. 遍历conversations，当遇到首条from: "human"时，将其value赋给instruction；当后续出现from: "human"且instruction已非空时，将其value追加至input（用"\n"分隔）；当遇到末条from: "gpt"且其后无其他from字段时，将其value赋给output。

4. 若样本中存在function_call与紧随其后的observation，将二者value拼接为input的一部分，格式为“{function_call_value}\n{observation_value}”，并确保output只取最终gpt回复。

5. 过滤instruction或output为空的样本，将有效三元组以JSONL格式写入alpaca_ready.jsonl。

三、使用LLaMA-Factory内置ShareGPT模板直连训练

这个方式跳过手动JSON结构调整，依赖LLaMA-Factory的sharegpt.py模板完成动态role-to-field映射，自动处理system、tools、function_call等扩展字段，并在tokenization阶段对齐labels掩码。对于包含大量工具调用或跨模态（如ShareGPT4V）的复杂样本尤其适用。

操作细节：

1. 确认LLaMA-Factory版本≥0.9.0，运行pip install llama-factory确保sharegpt模板已注册。

2. 将原始ShareGPT数据保存为data/sharegpt_custom.json，无需重命名字段或修改结构，保留conversations/system/tools原样。

3. 启动训练时指定--dataset sharegpt_custom --template sharegpt --dataset_dir ./data，框架会自动调用sharegpt.py中的format_example()函数。

4. 关键验证点：在训练日志中搜索“Loaded dataset with X samples”，确认数值与原始JSON文件行数一致；若显著偏少，说明sharegpt.py中from字段匹配逻辑未覆盖你的数据变体。

四、混合构造带显式instruction前缀的增强样本

这个方法针对ShareGPT中instruction隐含于对话首轮、缺乏明确任务描述的问题，通过规则注入标准化指令头（如“请回答以下问题：”、“根据上述描述，生成…”），提升模型对任务边界的感知能力。特别适用于把闲聊对话转化为问答、摘要、改写等下游任务。

操作步骤：

1. 统计原始ShareGPT中高频human提问句式，例如“什么是…”、“如何…”、“请解释…”、“帮我…”等，构建instruction前缀词典。

2. 对每条human value，如果匹配词典中任一模式，就保留原value；如果不匹配（比如“今天天气怎么样”），就前置通用指令头“请进行开放式对话回复：”。

3. 对含有图像占位符的样本（如ShareGPT4V），将替换为“[图像内容]”，并在instruction中显式添加“基于提供的图像内容，回答以下问题：”。

4. 将增强后的instruction与对应gpt output组合，生成新样本，存入enhanced_instructions.jsonl，与原始alpaca_ready.jsonl按1:1比例混合进训练集。

五、验证数据质量的三项硬性指标

无论走哪条转换路径，训练前必须做本地校验，确保每条样本满足指令微调的最小语义完备性要求。校验失败的样本必须返回前序步骤修正，绝不能强行纳入训练流程。

1. 执行python validate_sft_data.py --input alpaca_ready.jsonl，脚本应输出“PASS: All samples ha ve non-empty instruction and output fields”。

2. 随机抽取10条样本，人工检查output是否严格对应instruction所定义的任务类型（比如instruction含“翻译”，output必须为译文而非解释）。

3. 关键操作：使用tokenizer.encode()分别处理instruction+input与instruction+input+output，确认前者token IDs长度严格小于后者，且差值等于output部分token数量——此项不满足会导致labels掩码错位，训练loss恒为nan。