Was ist Quantisierung?
Auch genannt: Quantization
Quantisierung macht ein KI-Modell kleiner, indem seine Zahlen ungenauer gespeichert werden. So läuft es auch auf schwächeren Geräten.
Beispiel
Ein Modell schrumpft von 16 auf 5 Gigabyte und passt danach auf Ihren Laptop.
Für Profis
Typisch sind 8-, 5- oder 4-Bit-Varianten. Je stärker die Quantisierung, desto mehr Qualität kann verloren gehen, besonders bei Mathematik und Code.
Quellen: huggingface.co, Wikipedia · Geprüft am 19.10.2026
Von AI Compare Ninja mit KI-Unterstützung geschrieben und redaktionell geprüft. Alle Erklärungen sind eigene Texte.