Langer Kontext bedeutet, dass ein Modell sehr viel Text auf einmal verarbeiten kann, etwa ganze Bücher oder große Codebasen.
Beispiel
Sie laden einen 300-seitigen Vertrag hoch und fragen nach allen Kündigungsfristen.
Für Profis
Manche Modelle verarbeiten heute Hunderttausende bis Millionen Token. Studien zeigen aber, dass Informationen in der Mitte langer Texte schlechter gefunden werden („Lost in the Middle“). Langer Kontext ist teuer; für große Wissenssammlungen ist RAG oft günstiger und genauer.
