Modellkollaps beschreibt, dass KI-Modelle schlechter werden können, wenn sie immer wieder mit Texten oder Bildern anderer KIs trainiert werden.
Beispiel
Ein Bildmodell, das nur KI-Bilder sieht, erzeugt nach mehreren Generationen immer gleichförmigere Bilder.
Für Profis
Eine Studie in Nature (2024) zeigte, dass seltene Inhalte über Generationen verschwinden, wenn echte Daten durch synthetische ersetzt werden. Eine Mischung mit echten, menschlichen Daten mildert den Effekt. Deshalb gewinnen Herkunftsnachweise für Trainingsdaten an Wert.
