谷歌 Gemini 2.5 API 推“隐式缓存”,开发者成本最高降低 75%

谷歌 Gemini 2.5 API 推“隐式缓存”,开发者成本最高降低 75%

5 月 10 日消息,科技媒体 WinBuzzer 昨日(5 月 9 日)发布博文,报道称谷歌为其 Gemini 2.5 API,推出了“隐式缓存”(Implicit Caching)功能,自动识别并重用 API 请求中的常见前缀,开发者的成本最高可以降低 75%。

该功能适用于 Gemini 2.5 Pro 和 Gemini 2.5 Flash 模型,自动检测 API 请求中的重复前缀并加以重用,开发者的使用成本最高可以降低 75%。

注:与 2024 年 5 月推出的“显式缓存”(Explicit Caching)不同,隐式缓存无需开发者手动配置,系统默认开启,节省成本的同时大幅简化操作流程。

为帮助开发者充分利用隐式缓存,谷歌建议在构建提示词(prompt)时,将稳定、常见的内容放在开头,后面再添加用户特定的变量内容。此外,短时间内发送具有相似前缀的请求也能提高缓存命中率。

谷歌还设定了最低 Token 数量要求:Gemini 2.5 Flash 需 1024 个 Token,Gemini 2.5 Pro 则需 2048 个 Token。API 响应中新增的“cached_content_token_count”字段会显示缓存 Token 的使用情况和优惠计费详情。

与此同时,显式缓存仍作为可选方案,支持 Gemini 2.5 及 2.0 模型,允许开发者自定义缓存内容和生存时间(TTL,默认 1 小时)。

谷歌此举虽宣称成本节省 75%,但实际效果尚待第三方验证,且可能因使用模式不同而有所差异。

特别声明:[谷歌 Gemini 2.5 API 推“隐式缓存”,开发者成本最高降低 75%] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

从常威开始演了很多反派,但有个规矩:绝不在国外演反派(穿越常威小说)

电影里肯定得分清正反派,这是规矩,但关键不是贴标签,而是你得用什么样的方式,慢慢把观众拉进角色的世界里,让大家看到这个角色不是一出场就只会滥杀无辜的 “工具人”。就算这些缘由在剧本里只有小小的篇幅,我也会想…

从常威开始演了很多反派,但有个规矩:绝不在国外演反派(穿越常威小说)

国庆档现实题材电影何以备受关注 聚焦社会议题引发共鸣(国庆爆款电影)

2025年国庆档电影市场热闹非凡,多部新片上映,满足了观众多元观影需求。其中,《浪浪人生》跻身档期新片票房榜前三,《毕正明的证明》口碑持续发酵,《震耳欲聋》点映阶段热度不断提升。现实题材影片表现亮眼,赢得市场青睐

国庆档现实题材电影何以备受关注 聚焦社会议题引发共鸣(国庆爆款电影)

警惕!广东防风应急响应升至Ⅰ级(广东防疫最新消息)

今晨,麦德姆升级强台风级,预计将于中午前后在广东吴川至海南文昌一带沿海登陆。目前,“麦德姆”距离广东湛江徐闻县偏东方向约160公里。广东省防总已于今日8时将防风Ⅱ级应急响应提升为防风Ⅰ级应急响应。注意防范!(…

警惕!广东防风应急响应升至Ⅰ级(广东防疫最新消息)

23岁“一脱成名”,被王晶独宠9年的邱淑贞近照曝光,57岁像30岁

但邱淑贞的聪明之处在于,她懂得时尚不等于低俗,与王晶约定"三点不露"的底线,用若隐若现的风情征服观众。更难得的是,当感情出现裂痕时,她果断离开一手捧红自己的王晶;当遇到真爱沈嘉伟时,又毅然在当红时期隐退。

23岁“一脱成名”,被王晶独宠9年的邱淑贞近照曝光,57岁像30岁

小孩放屁很臭,实在太臭了(小孩放屁很臭,大便粘马桶吃什么中药)

小孩放屁很臭可能与饮食结构、胃肠功能紊乱、肠道菌群失调、乳糖不耐受、肠道感染等因素有关。建议家长观察孩子伴随症状,必要时就医排查病因。 高蛋白或高硫食物如鸡蛋、肉类、西蓝花等摄入过多时,肠道分解产生硫化氢等气体导致臭味加重

小孩放屁很臭,实在太臭了(小孩放屁很臭,大便粘马桶吃什么中药)