Contesto lungo significa che un modello può elaborare molto testo in una volta, come interi libri o grandi basi di codice.
Esempio
Carichi un contratto di 300 pagine e chiedi tutti i termini di preavviso.
Per esperti
Alcuni modelli gestiscono oggi da centinaia di migliaia a milioni di token. Gli studi mostrano però che le informazioni al centro di testi lunghi vengono trovate meno bene («lost in the middle»). Il contesto lungo è costoso; per grandi raccolte di documenti il RAG è spesso più economico e preciso.
