Ein kleines Sprachmodell ist ein Sprachmodell mit vergleichsweise wenigen Parametern, das auch auf Laptop oder Smartphone läuft.
Beispiel
Ein kleines Modell auf dem Handy sortiert Ihre Notizen, ohne dass Daten das Gerät verlassen.
Für Profis
Eine feste Grenze gibt es nicht. Je nach Quelle liegt sie bei etwa 10 bis 40 Milliarden Parametern; entscheidend ist, dass das Modell auf normaler Hardware läuft. Kleine Modelle sind schnell, günstig und datenschutzfreundlich, aber schwächer bei breitem Wissen. Für eng umrissene Agenten-Aufgaben reichen sie häufig aus.
