コンテキストロットとは？
別名： Context rot、コンテキストの劣化
コンテキストロットとは、コンテキストウィンドウに入る文章が増えるほど、言語モデルの精度が落ちることです。細部を見落としたり、取り違えたり、指示に従いにくくなったりします。
正確さ
例
多くのファイルを扱った長いチャットの後、アシスタントが最初の指示を忘れます。短い要約を添えて新しいチャットを始めると、またうまくいきます。
専門家向け
Chromaの技術レポートでは、テストした多くのモデルで、入力が長くなるほど信頼性が下がることが示されました。簡単な課題でも同じです。関連する知見に「Lost in the Middle」があり、長い入力の中ほどにある情報はうまく使われにくくなります。コンテキストエンジニアリングでの対策は、関係する内容だけを入れる、長い履歴を要約する（コンパクション）、RAGで必要な部分だけ取り出す、独自のコンテキストを持つサブエージェントを使う、などです。大きなコンテキストウィンドウがあっても、すべての細部が同じように使われるわけではありません。
関連するプロンプト・スキル・エージェント・ツール
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。