컨텍스트 로트 뜻
다른 이름: Context rot, 컨텍스트 열화
컨텍스트 로트는 컨텍스트 창에 들어간 글이 많아질수록 언어 모델이 덜 정확해지는 현상입니다. 세부 내용을 놓치거나, 헷갈리거나, 지시를 덜 따르게 됩니다.
정확도
예시
파일이 많은 긴 채팅 끝에 어시스턴트가 처음에 준 지시를 잊습니다. 짧은 요약과 함께 새 채팅을 시작하면 다시 잘 됩니다.
전문가용
Chroma의 기술 보고서는 테스트한 많은 모델에서 입력이 길어질수록 신뢰도가 떨어진다는 것을 보여 주었습니다. 간단한 과제에서도 마찬가지였습니다. 관련된 발견으로 “Lost in the Middle”이 있는데, 긴 입력의 중간에 있는 정보는 잘 활용되지 않습니다. 컨텍스트 엔지니어링의 대책은 관련 있는 내용만 넣기, 긴 기록 요약하기(컴팩션), RAG로 필요한 부분만 가져오기, 자체 컨텍스트를 가진 서브에이전트 쓰기입니다. 컨텍스트 창이 크다고 모든 세부 정보가 똑같이 잘 쓰이는 것은 아닙니다.
관련 프롬프트·스킬·에이전트·도구
AI Compare Ninja가 AI의 도움을 받아 작성하고 직접 검토했습니다. 모든 설명은 자체 작성한 글입니다.