Chunking heißt, lange Dokumente in kleine Abschnitte zu zerlegen, damit eine KI später gezielt die passenden Stellen finden kann.
Beispiel
Ein 80-seitiges Handbuch wird in Abschnitte von je etwa einer halben Seite geteilt.
Für Profis
Chunk-Größe und Überlappung bestimmen die Qualität eines RAG-Systems stark. Zu kleine Abschnitte verlieren Zusammenhang, zu große verwässern die Suche. Gute Verfahren schneiden an Überschriften oder Absätzen und speichern Metadaten wie Titel und Seite mit.