OpenAI 在 2026 年 10 月 20 日為 API 加入可選的 12 小時提示快取，讓相同指令、工具定義與上下文隔了數小時仍有機會重用較低的快取輸入費率。這對會分段工作的 Agent 特別值得評估。
快取不等於永久記憶
它處理的是重複輸入的成本與重用，不代表模型會永久記住新資料，也不是把產品中的記憶設定搬到 API。有效重用仍需要符合模型支援與快取匹配條件，不能只在後續訊息提到「沿用上一份」就假設必然命中。
寫入費用也要算進去
12 小時快取寫入費是一般輸入 token 單價的 2.5 倍。若大段背景只用一次，較高的寫入成本可能不划算；若同一段內容在一天內反覆重用，才有機會發揮價值。應依實際模型費率、命中資訊與使用次數計算，不能只看快取讀取單價。
怎麼做一個可驗收的試算？
先選固定指令與文件的一組工作，記錄普通請求和快取請求的輸入、寫入、讀取與輸出費用，再比較完整總額。把常變動的任務細節與穩定背景分清楚，也能幫助診斷未命中原因；不要先承諾固定省下某個百分比。
