面包屑图标 当前位置: 首页
AI资讯
热点详情

ShareGPT数据集JSON对话结构与字段含义详解

AI热点日报
AI热点日报时间:2026-05-29
热点解读

在准备大语言模型微调的多轮对话数据时,许多工程师都会接触到 ShareGPT 格式。坦白讲,该格式的 JSON 结构与字段语义并不复杂,但不少人仍在字段命名、嵌套层级或角色定义上遭遇困惑。今天我们将深入解析这套格式的完整逻辑,确保您获取规范数据后,训练过程顺利无虞。 以下七个要点,逐一详细说明。 一

在准备大语言模型微调的多轮对话数据时,许多工程师都会接触到 ShareGPT 格式。坦白讲,该格式的 JSON 结构与字段语义并不复杂,但不少人仍在字段命名、嵌套层级或角色定义上遭遇困惑。今天我们将深入解析这套格式的完整逻辑,确保您获取规范数据后,训练过程顺利无虞。

以下七个要点,逐一详细说明。

一、核心结构:conversations 数组

ShareGPT 格式的根基在于顶层字段 conversations,该字段必须存在,其值是一个消息对象数组,按时间顺序排列,每条消息代表一次发言,形成完整的对话流。这是模型学习上下文连贯性的基础。

1、首先确认数据根对象中包含 "conversations" 键,且其值为 JSON 数组。

2、接着检查数组中的每个元素是否都包含 "from""value" 两个键。

3、特别注意 "from" 字段的取值——只允许 "human""gpt""function_call""observation" 四种。切勿写作 "user""assistant"(除非您在 dataset_info.json 中进行了显式映射)。

二、发言者标识:from 字段的语义规则

from 字段定义了谁在发言,它直接影响模型对对话逻辑的建模方式。不同角色会触发不同的处理路径:例如 function_call 需要配合 tools 字段才能启用工具调用能力。

1、"human" 代表真实用户输入,必须出现在每轮对话的起始位置,或者在上一轮 "gpt" 响应之后。

2、"gpt" 代表模型生成的自然语言回复,必须紧跟在 "human""observation" 之后。

3、"function_call" 表示模型决定调用外部工具,其 value 必须是合法的 JSON 字符串,且字段名必须与 tools 中声明的 name 完全一致。

4、"observation" 表示工具执行返回的原始结果,value 即为工具输出的原始 JSON 或文本,模型不得自行改写这部分内容。

三、内容承载:value 字段的格式约束

value 字段存放实际内容,其格式必须与 from 角色语义匹配。格式错误会导致微调时出现 tokenization 异常或直接训练崩溃。

1、当 from"human""gpt" 时,value 应为纯 UTF-8 文本,禁止包含未转义的双引号、换行符或控制字符。

2、当 from"function_call" 时,value 必须是单行 JSON 字符串,且符合对应 tool 的 parameters schema。例如 {"name": "get_weather", "arguments": {"location": "北京"}}

3、当 from"observation" 时,value 应为工具返回的原始响应体,如果内容为 JSON 则保持原样,无需添加任何额外说明文字。

四、可选系统指令:system 字段的作用范围

system 字段是字符串类型,用于设定全局对话背景或行为约束,仅在当前样本内生效,不影响其他样本。它不参与对话轮次序列,但在模型输入拼接时通常放在 conversations 之前。

1、确认 system 字段为顶层键,与 conversations 同级,而不是嵌套在某个 conversations 项内部。

2、确保 system 值为非空字符串,长度建议控制在 512 字符以内,避免截断或注意力稀释。

3、若想禁用 system 提示,直接省略该字段即可,不要设为空字符串或 null

五、工具描述声明:tools 字段的结构要求

tools 字段是字符串类型,其值为 JSON 数组的字符串化表示,用于向模型声明可用工具集合及其调用规范。仅在消息中包含 "function_call""observation" 时才必需。

1、验证 tools 值是否能被 json.loads() 成功解析为 Python 列表,且列表中每个元素都是字典。

2、检查每个 tool 字典是否包含 "name"(字符串)、"description"(字符串)和 "parameters"(字典)三个必需键。

3、确认 "parameters" 字典中 "properties" 的每个子字段的 "type" 值属于 "string""number""boolean""object""array" 之一。

六、数据集注册:dataset_info.json 中的字段映射

在 LLaMA-Factory 等训练框架中,dataset_info.json 必须明确定义 ShareGPT 格式各字段与框架内部列名的映射关系,否则加载时会报 “column not found” 错误。

1、确认 "formatting" 字段值为 "sharegpt",而非 "alpaca""plain_text"

2、检查 "columns" 对象中 "messages" 键指向 "conversations""system" 键指向 "system""tools" 键指向 "tools"

3、验证 "tags" 对象中 "role_tag""from""content_tag""value""user_tag""human""assistant_tag""gpt"

七、典型错误示例与修正

常见格式错误会导致数据加载失败或训练异常,以下列举高频问题及对应的修正操作,请逐一核对。

1、错误:conversations 数组中某条消息缺失 value 字段——立即补全该消息的 "value": "",不可留空或删除整条消息。

2、错误:system 字段值为 null 而非字符串——将 "system": null 改为 "system": "" 或直接移除该键。

3、错误:tools 字段为 JSON 对象而非 JSON 字符串——将 "tools": [{...}] 改为 "tools": "[{...}]",确保其为字符串类型。

4、错误:from 字段使用 "user" 而非 "human"——全局替换所有 "from": "user""from": "human",并同步更新 dataset_info.json 中的 "user_tag" 值。

热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:ShareGPT数据集JSON对话结构与字段含义详解要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://www.php.cn/faq/2548084.html?uid=1503042
share

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-07 17:44
未来十年人工智能发展趋势与关键里程碑

唐杰教授在分享中,从人工智能的发展历程入手,重点解析了近十年AI的演进脉络,特别是感知领域取得的重大突破。他指出,算法是这一感知时代最具标志性和核心地位的要素——像BERT、ALBERT、MoCo2这些快速迭代的先进算法,就是最有力的证明。而展望未来,下一波人工智能浪潮的关键,在于实现具备推理能力、

AI热点2026-07-07 17:44
NVIDIA发布首批基于Hopper架构的产品与服务

全球主流计算机制造商——戴尔科技、慧与、联想、超微,以及云服务领域巨头AWS、谷歌云、Microsoft Azure、Oracle Cloud Infrastructure——均已入局,基于H100打造的产品下月起将正式供货。这不是纸上蓝图,而是切实落地的产业实践。 就在今天,NVIDIA正式宣布:

AI热点2026-07-07 17:44
灵犀微光为全球AR眼镜市场提供可靠参考解决方案

2022年灵犀微光举办产品媒体体验会,展示阿拉丁系列参考机型及阵列光波导模组,推出阿拉丁Zero2 0直播推流功能与新品阿拉丁Bi,并启动时尚体验官招募计划,推动AR眼镜商业化落地。

AI热点2026-07-07 17:43
英特尔深度学习加速技术核心原理与实现详解

有什么比秃头更心酸的吗?有,比如智能机器人把秃了的后脑勺识别成了未戴口罩的脸,一路穷追不舍地提醒你“请佩戴口罩”。这可能是人工智能在众多“高光时刻”下,难得贡献的一丝黑色幽默。这类笑话不在少数。自从以深度学习为核心的人工智能第三次浪潮来袭,AI的应用场景早已铺天盖地——从语音识别、自动送餐机器人,到

延伸阅读