O que é Context rot?
Também chamado de: Degradação do contexto
Context rot significa que modelos de linguagem trabalham com menos precisão quanto mais texto há na janela de contexto. Eles deixam passar detalhes, confundem coisas ou seguem pior as instruções.
Precisão
Exemplo
Depois de um chat longo com muitos arquivos, um assistente esquece uma instrução do início. Em um chat novo com um resumo curto, volta a funcionar.
Para profissionais
Um relatório técnico da Chroma mostrou, em muitos modelos testados, que a confiabilidade cai à medida que a entrada cresce, mesmo em tarefas simples. Um achado relacionado é o “Lost in the Middle”: informações no meio de entradas longas são menos aproveitadas. Soluções do context engineering: colocar no contexto só o que é relevante, resumir históricos longos (compactação), buscar de forma seletiva com RAG e usar subagentes com contexto próprio. Uma janela de contexto grande não significa que cada detalhe seja aproveitado igualmente bem.
Prompts, skills, agentes e ferramentas relacionados
Escrito pelo AI Compare Ninja com apoio de IA e revisado por nós. Todas as explicações são textos próprios.