ما المقصود بـتآكل السياق (Context Rot)؟
يُسمّى أيضًا: تدهور السياق
يعني تآكل السياق أن النماذج اللغوية تعمل بدقة أقل كلما زاد النص في نافذة السياق. فهي تغفل التفاصيل أو تخلط بين الأشياء أو تلتزم بالتعليمات بشكل أضعف.
الدقة
مثال
بعد محادثة طويلة مع ملفات كثيرة ينسى المساعد تعليمة من البداية. وفي محادثة جديدة مع ملخص قصير ينجح الأمر من جديد.
للمحترفين
أظهر تقرير تقني من Chroma في نماذج كثيرة جرى اختبارها أن الموثوقية تنخفض مع ازدياد طول المدخلات، حتى في المهام البسيطة. ومن النتائج القريبة «Lost in the Middle»: المعلومات الموجودة في منتصف المدخلات الطويلة تُستخدم بشكل أسوأ. ومن حلول هندسة السياق: إدخال ما هو مهم فقط، وتلخيص السجلات الطويلة (الضغط)، والاسترجاع الانتقائي عبر RAG، واستخدام وكلاء فرعيين لكل منهم سياقه الخاص. فنافذة السياق الكبيرة لا تعني أن كل تفصيل يُستخدم بالجودة نفسها.
موجّهات ومهارات ووكلاء وأدوات ذات صلة
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.