OpenAIは2026年10月20日、APIへ12時間のプロンプトキャッシュを追加しました。共通指示、ツール定義、文脈を数時間後のリクエストでも再利用し、低いキャッシュ入力単価を使える可能性があります。
永続的な記憶とは別
入力の再利用と費用に関する仕組みであり、モデルが新しい情報を永久に覚えるという意味ではありません。対応モデルや一致条件が必要です。後の指示に「前の資料を使う」と書くだけで命中するとは判断できません。
書き込み費用も計算する
12時間キャッシュの書き込みは通常の入力単価の2.5倍です。大きな文脈を一度しか使わなければ割高になり得ますが、繰り返し使う仕事なら価値が出る可能性があります。モデルの実際の単価、命中情報、使用回数で計算してください。
検証できる比較を行う
固定の指示と資料を使い、通常入力、書き込み、読み出し、出力を含む総額を比較します。変わる作業詳細と安定した背景を分けると、未命中の原因も調べやすくなります。測定前から一定の削減率を約束しないことが大切です。
