gemini-3
Gemini 3 上下文快取:何時用、如何驗收
Gemini3 Team · 2026年10月14日 · 12 min read
Keywords: Gemini 3 快取、Gemini API 成本優化、上下文管理、隱式快取、顯式快取
Published: 2026年10月14日 Author: Gemini3 Team
同一份資料被反覆傳送,才值得考慮快取
假設團隊針對同一本產品手冊提出二十個不同問題。如果每次請求都附上完整手冊,就會重複傳入大量相同內容。當資料體量較大、版本穩定且會被反覆使用時,上下文快取值得評估;如果每次處理的都是不同的短文件,快取未必是最值得優先做的最佳化。
本文面向 Gemini API 使用者,以原創的手冊審閱場景和流程圖說明如何做判斷。示例沒有實測節省比例,也不承諾更快響應,更不代表 MidassAI Chat 中存在某個快取開關。第三方聊天服務可能採用自己的上下文處理方式,應另外核對其說明。
先確認你實際使用哪套 API。 Google 當前的 Interactions 快取文件說明了隱式快取;generateContent 快取文件還介紹了受支援的 Gemini 3 和 2.5 模型如何使用顯式快取物件。不要把顯式快取的接入步驟直接套進 Interactions。
不同問題之間,哪些內容應保持一致?

圖中的藍色部分代表同一版本的手冊,旁邊的 Q1、Q2、Q3 代表不同問題。可複用的請求通常把共同資料放在前面,把每次變化的問題放在後面。這個圖解釋的是請求組織方式,並不保證一定命中隱式快取。
共享上下文應經過整理:包括手冊正文、版本標識,以及真正適用於每個問題的說明。避免在穩定內容前面插入不斷變化的時間戳、隨機編號或無關問候。日誌追蹤編號若不參與推理,就保留在應用日誌中,不必加入模型輸入。
最佳化之前,先回答三個問題:資料在本輪審閱中會不會變化?每位使用者是否都有權閱讀全部資料?每個答案能不能追溯到具體版本?只要其中一點不明確,就應先整理來源和訪問許可權,再考慮減少重複 Token。
兩種快取機制,管理責任不同
| 判斷項 | 隱式快取 | 顯式快取 |
|---|---|---|
| 誰管理快取物件? | 應用無需自行建立物件 | 應用負責建立並引用快取 |
| 相似請求能否保證複用? | 不能,要檢視實際用量 | 要核對快取引用和返回用量 |
| 採用哪套 API? | 按當前 API 的快取文件接入 | 使用支援顯式快取的 generateContent 模型和方法 |
| 需要規劃什麼? | 穩定字首和用量觀察 | 來源版本、有效期、清理和完整成本 |
官方文件說明,Gemini 2.5 及更新模型預設啟用隱式快取,但具體模型有相應的最低輸入要求。它建議把共同內容放在開頭,並在較短時間內傳送相似字首。這裡的門檻按 Token 計算,不等於字數或檔案大小;不要假定所有 Gemini 3 型號的限制相同。
顯式快取還需要管理資源生命週期。當前 generateContent 文件指出,未指定 TTL 時預設有效期為一小時,並區分了快取輸入、儲存時長和其他請求費用。理解這些計費組成,並不意味著已經知道最終賬單;接入時仍需核對所用模型和 API 的具體規則。
用一次有明確結束時間的手冊審閱來規劃
下面是可復現的規劃示例,不是生產環境的測試記錄。團隊準備審閱第 7 版手冊,預計開展一次短期討論,分別詢問入職流程的變化、需要審批的例外情況,以及問題上報流程所在的位置。
如果採用隱式快取,每次請求保持同一段穩定的資料字首,只改變後面的具體問題,並記錄每次響應返回的用量。內容相似只是複用機會,是否真正複用,要以用量資訊為準。
如果採用支援顯式快取的 generateContent 整合,可按以下順序實施:
- 整理已獲准使用的手冊版本,並用相應工具計算 Token 數。
- 建立資源前,核對模型是否支援快取以及具體限制。
- 選擇適合本輪任務的有效期,建立快取,並儲存快取標識、模型和來源版本。
- 提問時引用該快取,確保使用的模型與快取一致。
- 記錄返回用量,並逐項對照手冊檢查答案。
- 審閱結束後刪除快取,或按已規劃的有效期自動過期。
這些步驟必須由應用程式實現;自然語言提示詞不能自行建立或管理快取。API 憑據應留在服務端,不得寫入文章、瀏覽器端程式碼或分析日誌。
資料換版,不能只延長舊快取

生命週期圖把版本變化作為重新建立上下文的原因。Google 的 generateContent 文件允許修改快取的到期時間或 TTL,卻不允許直接修改快取內容。如果第 8 版手冊改變了答案,就應建立新的已稽核上下文,並停止把新問題發給舊版本。
應用可以把快取標識與來源校驗和、準確的模型、建立時間、到期時間和訪問範圍關聯起來。這是應用側的記錄建議,不是 Gemini API 承諾提供的欄位列表。人類可讀的顯示名稱也不能保證唯一對應正確資料。
快取清理與文件保留是兩件事。刪除快取,並不能證明上傳的原始檔、本地副本和日誌都已刪除;每個位置都要遵守自己的保留規則。官方文件允許讀取快取後設資料,卻不能將快取內容當作資料歸檔重新下載,因此權威原始檔仍應由現有文件系統管理。
對比整輪任務的成本,而不是單個好看的數字
決定是否保留顯式快取前,先準備一張小型評估表。固定來源版本、問題集和模型,記錄真實用量與持續時間,不預設一個節省百分比。
| 記錄內容 | 作用 |
|---|---|
| 準確的 API、模型和來源版本 | 確保兩輪測試可比較 |
| 實際提問次數 | 衡量真實複用程度,而非預計需求 |
| 快取與未快取的輸入用量 | 看清哪些輸入被複用 |
| 輸出用量 | 輸入快取並不免除生成答案的工作 |
| 快取有效期和儲存費用 | 長時間閒置可能改變成本結論 |
| 答案核驗及失敗記錄 | 用錯版本時,低成本也沒有意義 |
按你的賬戶、模型和 API 當時適用的規則計算總額,包含適用的快取建立或輸入處理費用、儲存時長、未快取的問題 Token,以及輸出費用。再與相同任務、不自行管理顯式快取的方案比較。基準方案也可能命中隱式快取,因此未檢視實際用量前,不應把它稱為“完全未快取”。
本文不列固定價格表,因為價格和模型可用性都可能變化。實際評估時,請查閱官方價格頁面。
哪些情況下,先最佳化別的環節?
一次性的短問題、持續變動的資料集合,或者缺乏可靠版本記錄的專案,通常更值得先改善輸入選擇。刪掉無關頁面、拆分獨立任務,並先檢查答案質量。不要為了達到快取門檻而刻意填長提示詞,這可能抵消最佳化的意義。
如果快取中途過期,應明確處理錯誤,重新載入原本要使用的資料版本,並判斷剩餘任務是否值得重新建立快取。不要悄悄換成其他文件,也不要反覆重試已經失效的引用。保留使用者的問題,方便恢復任務。
快取複用的是輸入,不會替你驗證答案,也不會擴大模型允許的上下文視窗。如果結果還要交給下游程式讀取,可以配合結構化輸出驗收流程一起使用:資料組織與結果校驗,分別解決可靠性問題的不同部分。