Eine GPU ist ein Chip, der sehr viele Rechnungen gleichzeitig ausführt. Deshalb laufen Training und Betrieb von KI meist auf GPUs oder auf ähnlichen Spezialchips wie Googles TPUs.
Beispiel
Ein Rechenzentrum mit Tausenden GPUs trainiert ein neues Sprachmodell.
Für Profis
Für lokale KI ist vor allem der Grafikspeicher (VRAM) entscheidend. Rechner mit gemeinsamem Arbeitsspeicher für Prozessor und Grafik können ebenfalls größere Modelle laden.
