面包屑图标 当前位置: 首页
AI资讯
热点详情

谷歌Gemini 2.5模型上线隐式缓存功能 最高节省75% Token成本

AI热点日报
AI热点日报时间:2026-07-11
热点解读

在AI研发过程中,Token(令牌)成本始终是开发者关注的核心开销。近期,Gemini API推出了上下文缓存特性,在重复请求场景下能够大幅削减Token使用量,最高可节省75%。 事实上,行业内早已存在类似方案,例如DeepSeek等模型也提供了缓存机制。然而,此前的实现需要开发者手动配置缓存,操

在AI研发过程中,Token(令牌)成本始终是开发者关注的核心开销。近期,Gemini API推出了上下文缓存特性,在重复请求场景下能够大幅削减Token使用量,最高可节省75%。

事实上,行业内早已存在类似方案,例如DeepSeek等模型也提供了缓存机制。然而,此前的实现需要开发者手动配置缓存,操作流程相对繁琐。

就在昨日,Gemini 2.5模型推出了一个更智能的版本——隐式缓存。这次,开发者无需额外操作即可轻松实现成本节省。

最高节省75%的Token成本,Gemini 2.5模型上线隐式缓存

隐式缓存:自动识别并节省Token成本

简而言之,开发者无需再手动构建缓存。Gemini API会在内部自动判断哪些内容可以命中缓存,从而有效降低Token开销。

其实现逻辑非常直接:只要当前请求与历史请求具备相同的前缀部分,该部分内容就会被系统自动标记为“可缓存”,并享受75%的Token折扣。开发者无需在代码中额外添加任何缓存逻辑。

这相当于将原本需要手动开启的“省流模式”,直接升级为系统默认功能。

高效使用隐式缓存的诀窍

由于隐式缓存的核心在于“相同的前缀”,因此最佳策略十分清晰:将固定不变的内容置于请求开头,将变化的内容放在请求末尾。

例如,在开发AI问答机器人时,可以将通用的系统指令、背景说明等固定信息放在请求开头,而将每次不同的用户问题放在结尾。这样,每次新提问都能自动触发缓存命中,从而显著降低Token成本。

当然,缓存并非无条件触发。目前,Gemini 2.5 Flash模型需要至少1024个Token才能激活缓存,而2.5 Pro模型则需要2048个Token。不过,对于大多数实际应用场景而言,这个门槛通常都能满足。

显式缓存选项依然保留

如果开发者确有手动管理缓存的需求,Gemini 2.5同样保留了显式缓存API配置项,提供了充分的灵活性。两种模式并存,开发者可根据实际场景自由选择。

Gemini团队在官方声明中提到了一个关键词——“推动帕累托前沿”。通俗来说,就是他们致力于在“性能提升”与“成本降低”这两个看似矛盾的目标之间,持续寻找更优的平衡点。

扩展:帕累托前沿的含义与应用

这个概念并不复杂。假设你有两个目标:既要提升AI的推理能力,又要降低每次调用的成本。你无法同时将两者做到极致,总存在取舍。帕累托前沿,就是指所有“再往前一步就必须牺牲另一边”的最优点集合。

每一次技术进步,本质上都是在“帕累托前沿”上向前推进一小步,让你在原本无法兼得的领域,能够同时获得更多收益。Google宣称要推动帕累托前沿,意味着他们希望将“高性能”与“低成本”这对矛盾体,进一步拉向更优的方向。

如果你尚未尝试Gemini 2.5的隐式缓存,可以通过AI Studio或Vertex平台直接体验这一功能。不得不说,谷歌这次确实在为开发者节省成本方面下足了功夫。

热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:谷歌Gemini 2.5模型上线隐式缓存功能 最高节省75% Token成本要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://www.53ai.com/news/finetuning/2025051060712.html
ai 人工智能

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-11 20:22
Quickie AI 智能快捷方式,快速完成任务

QuickieAI是一款轻量级Chrome插件,核心逻辑是快速准确。在写作、社交媒体运营、营销活动场景中,一键完成内容研究与文案生成,支持侧边栏即时响应。可辅助写作、生成多平台文案及营销话术,擅长冷启动,最终质量需人工微调。

AI热点2026-07-11 20:22
快手开源模型可图Kolors 支持图像内生成文字

快手开源图像生成模型可图Kolors,采用GLM文本编码器支持中英文双语理解,可处理256token长文本。基于数十亿文本图像对训练,专门优化中国文化元素,能稳定生成中文文字,英文文字偶有缺漏。

AI热点2026-07-11 20:22
Hebbia AI智能搜索引擎 金融法律政府制药行业知识工作助手

Hebbia是一款专为金融、法律、政府和制药等行业设计的AI搜索引擎,其Matrix产品通过拆解复杂文档实现自动化信息提取与分析,已获3000万美元融资。它适用于研究人员、商业人士及学生,提供全面、精准的检索与洞察。

AI热点2026-07-11 20:21
Penf1 AI驱动的博客写作工具

Penf1是一款AI驱动的博客创作工具,专注于简化从构思到发布的全流程。它支持即时内容生成、创意破题和SEO优化,帮助创作者快速获得高质量初稿,从而将精力集中于打磨观点和注入个人风格。

延伸阅读