プロンプトキャッシュとは？
別名： Prompt caching
プロンプトキャッシュとは、AIサービスが依頼の決まった冒頭部分を保存し、繰り返しの依頼を速く安くする仕組みです。
例
チャットボットが毎回同じ長いマニュアルを送ります。キャッシュがあれば、全体の処理は一度で済みます。
専門家向け
いくつかの提供者は、キャッシュされた入力トークンをかなり安い料金で請求します。条件や保存期間は提供者ごとに異なります。効果を得るには、固定部分を先頭に置き、まったく同じ内容に保つ必要があります。費用の比較には提供者の料金表を確認しましょう。
AI Compare Ninjaで見る
関連するプロンプト・スキル・エージェント・ツール
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。