Fable实战指南:AI新闻领域应用技巧
在一片祝贺声中——General Intuition和Shunyu Yao都带来了新模型,世界也在翘首以盼GPT-5 6 Sol Ultra的发布——人们却在争分夺秒地探索Fable 5的极限,生怕明天订阅补贴一结束就来不及了。 Thariq原本在写一个名为“Fable野外指南”的博客系列,恰好在模
在一片祝贺声中——General Intuition和Shunyu Yao都带来了新模型,世界也在翘首以盼GPT-5.6 Sol Ultra的发布——人们却在争分夺秒地探索Fable 5的极限,生怕明天订阅补贴一结束就来不及了。
Thariq原本在写一个名为“Fable野外指南”的博客系列,恰好在模型重新上线那天有一个主题演讲。于是他连夜把整个演讲内容全部推翻,重新组织了最迫在眉睫的见解,这份内容今天刚刚发布:
演讲分成四个部分(我的边看边评用斜体标注):
0:00 引言与为Fable搭建舞台
2:32 解锁Claude的束缚:理解模型行为
- 模型的限制往往来自我们自己——“我们给它套的缰绳,以及我们提示它的方式”。所以面对新型模型时,我们理应拆除或更换这些缰绳和提示,来激发你原本永远看不到的新行为——因为你此前过度约束了模型(也就是束缚了它)。
- 典型案例:大多数人已经认同Thariq关于HTML惊人有效性的观点。
9:08 发现你的未知:在地图与领土之间航行
- 这个主题已经在这里的博客中写过。
- 与“解锁束缚”是近亲:如果说解锁束缚是清理过时的已知,那么这里就是找出你甚至不知道自己不知道的东西。
- 最容易的技术:
- 让Claude做一次“盲区扫描”,找出你的未知
- 为“完全不同的设计方向”进行头脑风暴
- “访谈我”——类似于/grill-me,但优先问高影响力的问题
- 使用参考:比如在迁移场景中
- 维护一个implementation-notes.md:记录那些替你做的、不明确的决策日志
- “考考我”——确保我自己的理解
14:29 应对失落感:反思编程效率的情感冲击
- 你以前花几周做的事,现在几小时就完成了
16:30 变得不理智:要求又好、又快、又便宜的结果
- “权衡不存在”——因为Fable能力更强,你可以更雄心勃勃,不接受任何妥协。
- “构建很容易,创造价值仍然很难”。

总的来说,这是一场非常精彩的演讲——随着世界逐渐适应第一批Fable级别的模型,我们将逐步梳理其带来的影响。
AI新闻 2026/07/04-2026/07/06。本期检查了12个子版块、544条推文,没有额外使用Discord。提醒:AINews现已纳入Latent Space版块。你可以随时选择接收或退订邮件频率。
AI Twitter 速览
腾讯混元Hy3发布,开源权重新前沿
Hy3正式成为严肃的开源模型:腾讯发布了Hy3,采用Apache 2.0许可,是一个295B MoE(21B活跃参数),192专家/ top-8路由,GQA,256K上下文,以及3.8B MTP层用于投机解码。多方帖子称它在推理、编程和智能体任务上与更大的系统不相上下,尤其强调了工具调用稳定性和抗幻觉等可靠性改进 ——@eliebakouch, @HuggingPapers, @ShunyuYao12。
推理支持出奇地成熟:@vllm_project表示Hy3从发布第一天就原生支持vLLM,包含工具调用和推理解析器、MTP投机解码,并在NVIDIA和AMD上验证通过。后续细节显示,腾讯的生产内核已经上游到vLLM主分支,包括负载均衡的解码调度和融合FP8 MoE服务,报告显示在混合长度解码上性能提升高达2.95倍,延迟降低约24% TTFT和17% TPOT(相比默认后端)@vllm_project。社区反应强烈,@Teknium迅速将Hy3在Nous Portal上免费开放两周。
更广泛的开源模型背景:Hy3立刻被拿来与GLM-5.2比较。一些人认为如果基准测试和氛围测试的结果成立,腾讯现在已跻身顶级开源实验室行列@teortaxesTex;另一些人则仍坚持GLM-5.2是目前实际可用的最佳开源权重模型@tinygrad, @mbusigin。核心结论:开源前沿正在快速收紧,竞争越来越集中在部署稳健性上,而非单纯的榜单分数差距。
智能体基准、框架与长时记忆
AutomationBench-AA 引入更真实的智能体评测:@ArtificialAnlys为Zapier的AutomationBench启动了一份独立榜单,评估智能体在657个任务和40个模拟SaaS应用上的表现,同时设有目标和防护栏。Claude Fable 5以48.6%领先,Opus 4.8紧随其后48.5%,Gemini 3.5 Flash为42.6%,GPT-5.5 xhigh为42.1%。比排名更有趣的是:每个模型仍然会违反业务规则,而Gemini在每防护栏违规的目标达成率和成本效率方面表现尤为突出。开源权重仍明显落后,GLM-5.2 max是榜单中最好的开源模型,仅为27.8%。
能力指数正变得多维:Artificial Analysis还引入了六个领域特定指数——财务与会计、法律、医疗健康、战略与运营、工程、经济——以超越单一标量模型评分@ArtificialAnlys。头条结论依然熟悉——Claude Fable 5加上Opus 4.8回退领先——但更有价值的洞察是排名如何按领域剧烈变动,以及价格/性能前沿变得多么陡峭。这@fchollet的观点一致:不考虑每个任务的成本而报告基准分数越来越没有意义。
记忆和检索仍然是持久智能体的瓶颈:两篇论文引起了关注。首先是A-TMA,它解决了“幽灵记忆”问题——长时间运行的助手中过时和当前事实被一起检索出来;在LTP基准上,将其加入Graphiti后冲突准确率提升了+0.240绝对@omarsar0。其次是ReContext,一种无需训练的长上下文推理框架,在生成答案前重放模型内部的证据,在八个128K数据集上提升了证据利用@dair_ai。再结合BlockSearch用于百万token上下文内检索@dair_ai,主题很清晰:更好的记忆行为越来越多地在推理时通过工程手段实现,而不仅仅是依靠训练。
Anthropic的J-Space / 全局工作区研究
机制可解释性成为焦点:Anthropic发布研究,声称Claude内部存在类似全局工作区的结构,以一小部分激活为核心——他们称之为J-space@AnthropicAI, @AnthropicAI。核心主张不是链式思维提取,而是识别出一个特权的内部表征基底,可用于报告、调制和灵活推理。Anthropic还为开源权重推出了Neuronpedia演示@AnthropicAI。
为什么研究者在意:可解释性研究者认为,这比以往公开工作提供了更强有力的模型“工作记忆”或内部工作区证据,即使他们不同意其表述方式。@NeelNanda5称这是目前最有力的工作记忆机制证据。@Jack_W_Lindsey认为理解这个特权空间可能是理解LLM认知的关键。帖子还强调了实际安全角度:工作区据报道可以揭示隐藏概念、检测提示注入,并在它们被语言化之前暴露内部与破坏相关的特征 @mlpowered, @LiorOnAI, @omarsar0。
但“意识”的表述引发争议:Anthropic的公开表述引发强烈反弹。支持者认为结果指向的是通达意识的功能类似物,而非现象意识@BorisMPower;而批评者认为公司通过将特权潜在激活与意识混为一谈而过度宣称@AlanCowen。即使是同情的观点也强调,更大的故事是用于审计和引导模型的新的干预点,而非哲学问题。
推理、服务与系统效率
投机解码仍然是热门基础设施:@lmsysorg将DSpark加入SGLang,用于置信驱动的可变长度验证。其卖点是在高负载下避免验证每个草稿token,从而改善吞吐量/延迟的权衡(相对于固定预算的投机方法);DeepSeek-V4-Pro据报道在B300上batch=1时达到383.7 tok/s。微软还讨论了在GitHub Copilot框架中对GPT-5.5进行提示级优化,以在发布后改善延迟和token效率 @code, @pierceboggan。
推理效率正日益成为战略瓶颈:@jon_durbin认为,推理(而非仅仅训练)现在就是“整个游戏”,因为每个数据管道、强化学习循环和智能体运行时最终都体现为测试时计算。这一视角也体现在更底层的核工作中:Chutes报告了对MiniMax MSA和GatedDeltaNet-2的显著加速,包括在RTX Pro 6000 / SM120上稀疏注意力训练改进约7倍,以及更好的融合FP8内核@jon_durbin。
基础设施发布不限于模型服务:Cloudflare推出Workers Cache,一个按区域分层的缓存,位于Worker入口点之前,通过标准HTTP头配置@Cloudflare。OpenAI推出GPT-Realtime-2.1-mini,将推理和工具使用引入mini实时线路,价格与上一代mini相同,同时缓存改进声称带来超过25%的p95延迟降低 @OpenAIDevs, @OpenAIDevs。
世界模型、语音与文档AI
MIRA是值得关注的世界模型演示:General Intuition和Kyutai联合Epic Games推出MIRA,一个基于1万小时机器人收集数据训练的、可多人玩的《火箭联盟》世界模型@gen_intuition。它以20 fps实时运行,帖子强调一个5B参数模型在单块NVIDIA B200上运行完整的2v2比赛,没有显式的物理或渲染引擎@TheRundownAI。这是最清晰的信号之一:视频/世界模型工作正从玩具演示迈向交互式模拟器。
语音领域竞争依然激烈:AssemblyAI发布Universal-3.5 Pro Realtime,一个流式语音转文字模型,在AA-WER Streaming上达到4.1% WER,支持上下文提示,可在通话中更新而无需重新连接@ArtificialAnlys。在TTS方面,Artificial Analysis称Speechify Simba 3.2现在以1233 Elo领先其Speech Arena,超过Gemini 3.1 Flash TTS、Sonic 3.5和Inworld Realtime TTS 1.5 Max,同时还是排名靠前模型中最便宜的@ArtificialAnlys。
文档上下文管道正默认变为多模态:LlamaIndex和LanceDB描述了一个针对杂乱PDF的检索管道,将页面、块和提取的资产分离到链接的多模态表中,在一个标注的ESG报告基准上报告82% any-page-hit@5和74% answer accuracy @lancedb, @llama_index。这与Jerry Liu关于智能体应有专用“文档上下文层”的更广泛观点一致@jerryjliu0。
热门推文(按互动量)
Anthropic的全局工作区论文主宰了互动量,关于Claude内部工作区/J-space的主要公告远高于其他内容@AnthropicAI。
腾讯Hy3是最大的纯模型发布故事,尤其受到讨论开源竞争力与部署的技术账号关注 @teortaxesTex, @ShunyuYao12。
MIRA的可玩世界模型是突出的多模态/系统演示@gen_intuition。
Will Depue的“Stargate for Data”帖子是最实质性的战略帖,认为数据收集——而非仅仅算力——正成为前沿实验室的约束条件和潜在护城河@willdepue。
John Carmack的记忆系统帖子因提出推理硬件可以利用确定性访问模式和比HBM便宜得多的内存层级来服务大型模型而引发大量技术兴趣@ID_AA_Carmack。
AI Reddit 速览
/r/LocalLlama + /r/localLLM 速览
1. 大型开源权重MoE模型发布
longcat 2.0 (1.6T, 约48B活跃) 权重现在以MIT许可开放(活动量:638):LongCat 2.0权重现已通过elie和ModelScope的公告以MIT许可开放,技术细节在LongCat 2.0博客中。该模型是一个非常大的MoE系统,总参数量为
1.6T,每次推理的活跃参数约48B;评论者指出发布的权重在BF16下占用约3.55 TB,在FP8下占用2.05 TB。 评论者强调了多TB权重的实际部署负担,并指出美团——被描述为中国版Groupon/Uber Eats——据报道完全使用国产芯片训练了它,引发了关于地缘整治/市场意义的讨论。评论者强调了LongCat 2.0的规模和部署足迹:总参数
1.6T,活跃参数约48B,暗示了稀疏/MoE架构。一位用户注意到发布的权重在BF16下需要约3.55 TB,在FP8下需要2.05 TB,这对任何规划本地存储或推理基础设施的人都很重要。提出的一个技术点是美团据报道在
100%国产芯片上训练了该模型,评论者认为这对AI硬件供应链独立性有重要意义。考虑到美团是一家主要中国互联网公司(类似于Groupon和Uber Eats的结合体)而非传统AI实验室,这一点尤其引人注意。多位用户关注了宽松的MIT许可以及计划中的与前沿开源模型如Qwen和DeepSeek的基准对比。总参数
1.6T、活跃参数仅~48B以及开放权重的组合意味着,如果推理工具能高效支持其架构,该模型可能具有与其他高端MoE开源模型进行实际比较的潜力。

