当前位置: 首页
AI
TOON面向令牌对象表示法开源:削减LLM上下文成本超40%

TOON面向令牌对象表示法开源:削减LLM上下文成本超40%

热心网友 时间:2025-11-26
转载

TOON 的设计让开发者无需脱离熟悉的 JSON 数据模型,就能实现显著的 Token 节约效果,同时保持人类可读性。这种低门槛的优化方式,为“在不更换模型的前提下实现降本增效”带来了新的解题思路。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

Token-Oriented Object Notation(TOON)以“在维持结构准确性的同时显著减少令牌使用量”为核心卖点进入公众视野。

图片

随着提示上下文持续膨胀,任何能节约约40%令牌的格式都意味着直接降低推理成本,这正是 TOON 引发开发者关注的原因。

TOON 是什么

TOON 自称为“面向大语言模型提示、可读性良好的 JSON 数据模型编码方案”。

它在保留 JSON 语义的基础上,借鉴 YAML 的缩进风格与 CSV 的行式布局,有效压缩空白字符与冗余符号,从而让模型在读写上下文时消耗更少令牌。

示例:从 JSON 到 TOON

最新示例展示了一个登山行程的 JSON 数据结构。

图片图片

标准 JSON 版本在括号和键名上耗费大量字符,而 TOON 将嵌套对象转为 YAML 风格段落,并对等长数组采用表格化处理。

图片图片

这种 CSV 化展开使令牌量比标准 JSON 减少55%,比压缩 JSON 减少25%,比 YAML 减少38%。

这意味着当数据结构稳定、键值重复率高时,TOON 能把原本分散在多行的字段名集中到声明区域,再通过逗号分隔的记录来传输实际值,从而最大程度压缩上下文长度。

何时适合采用 TOON

根据作者总结,TOON 实现了 YAML 与 CSV 特性的完美平衡。

对于层级极深的对象,YAML 仍可能更高效;而对于完全扁平化的批量数据,纯 CSV 格式更为精简。当你既需要表达嵌套结构又要描述规整数组时,TOON 的“字段声明+表格体”组合就能展现独特优势。

其字段头与数组声明部分约带来5%的额外开销,但换来的是更少的解析错误与更清晰的结构提示。

准确率与开发者反馈

在社交平台上,贡献者 Johann Schopplich 分享了针对 GPT-5 Nano 的测试成果:

在约160个问题和3个模型的语义验证中,TOON 的回答准确率达到99.4%,并在不牺牲准确性的前提下削减46%令牌。显式声明数组长度与字段列表,能让模型减少推断结构所需的上下文,从而降低幻觉与格式错误风险。

“显式长度+字段列=更少错误。”

如何开始使用

TypeScript/JavaScript 参考实现托管在 github.com/toon-format/toon,包含编码器、解码器、CLI 工具以及性能基准测试。

图片

TOON 1.0 于两周前基于 MIT 许可证发布,允许团队自由集成到现有提示管理流程。在构建高实时性场景时,建议同步比较首个令牌时间(TTFT)与每秒令牌数,确保压缩后的格式不会拖慢响应速度。

部署前建议遵循以下检查要点:

•提示对齐 - 在系统提示中明确要求模型返回 TOON 格式,以减少格式偏差。

•数据抽样 - 针对典型 payload 比较 JSON、YAML 与 TOON 的实际 token 数量,锁定收益最大的场景。

•推理指标 - 同步记录准确率、TTFT 和吞吐量,防止仅关注成本而忽略稳定性。

为什么值得关注

在企业级语言代理场景中,提示上下文往往包含复杂指令、示例说明、数据库行和元数据。

TOON 的设计让开发者能够延续熟悉的 JSON 数据模型工作模式,同时获得可观的 Token 节约空间,并保持良好的人类可读性。这种低门槛的优化方案,为实现“不换模型却降本增效”的目标提供了新的技术路径。

来源:https://www.51cto.com/article/830454.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
ideta.io

ideta.io

ideta io是什么 说到自动化客户互动,很多人的第一反应是需要专业的技术团队。但今天要介绍的这个平台——ideta io,正在改变这一认知。它本质上是一个由Ideta公司打造的聊天机器人与呼叫机器人服务平台,专门为那些希望将客户支持、社区管理或业务流程自动化的企业和个人提供解决方案。核心目标很明

时间:2026-04-19 07:56
Flash Insights

Flash Insights

Flash Insights是什么 想快速从一堆网页或视频里抓取核心干货吗?今天就聊聊一个挺趁手的小工具:Flash Insights。它本质上是一款免费的浏览器扩展,背后的开发者虽然未公开,但功能指向很明确——帮用户从任何网页或视频中,快速提炼出有价值的信息。更妙的是,它的设计专门优化了与AI聊天

时间:2026-04-19 07:55
AIEBooks

AIEBooks

AIEBooks是什么 说到快速创作电子书,现在确实有了更聪明的选择。AIEBooks就是这样一个由开发者推出的工具,它的核心思路很清晰:借助OpenAI的GPT-4o mini模型,把你给的一个主题和对目标读者的描述,直接转化成一本完整的、个性化的电子书。这工具对学生、专业人士,或者任何想系统了解

时间:2026-04-19 07:53
意间AI

意间AI

意间AI是什么 当你听到“AI内容创作社交平台”时,脑海里会浮现什么?是复杂的操作界面,还是晦涩的英文指令?意间AI的出现,或许会打破你的这些刻板印象。这款由上海亘聪信息科技有限公司打造的产品,正致力于做一件有趣的事:把强大的AI创作能力,包裹进一个对中文用户极其友好的社交外壳里。它不只是个工具,更

时间:2026-04-19 07:48
Breadcrumbs Copilot

Breadcrumbs Copilot

Breadcrumbs Lead Scoring是什么 如果有一款工具,能帮你一眼识别出谁最可能掏钱,谁只是随便逛逛,你会感兴趣吗?这正是Breadcrumbs Lead Scoring的核心使命。作为一款企业级的潜在客户评分工具,它的目标非常明确:赋能销售和市场团队,通过系统化的评分机制,精准定位

时间:2026-04-19 07:46
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程