Hardware-Anforderungen für GLM-5.3

GLM-5.3 ist das stärkste Open-Weight-Modell, das Sie heute herunterladen können. Z.ai hat es am 14. August 2026 veröffentlicht und die Gewichte zwei Wochen später, am 28. August, nachdem die Sicherheits-Härtung abgeschlossen war, freigegeben.⁴ Es erzielt State-of-the-Art-Ergebnisse bei Terminal-Bench 3.0 und hebt diesen Wert gegenüber seinem Vorgänger von 4.6% auf 28.3%.⁴

Es ist außerdem ein Modell mit 744B Parametern, dessen nutzbare Build 475GB Speicher benötigt. Diese Zahl, nicht der Benchmark, entscheidet darüber, ob Sie es ausführen können.

• Parameter744Betwa 40B aktiv
• Kontext1MToken
• LizenzGLM-5.3benutzerdefiniert, nicht MIT
• Speicher bei 4-Bit475GB94.3% Genauigkeit

Dasselbe Modell wie 5.2, weiter trainiert

GLM-5.3 teilt sich das Basismodell mit GLM-5.2. Jeder Zugewinn stammt aus zusätzlichem Post-Training und nicht aus einem neuen Pre-Training-Lauf.¹ Architektur, Parameterzahl und Speicherbedarf sind daher identisch mit denen von 5.2, was praktisch ist: Alles, was Sie über den Betrieb von 5.2 gelernt haben, gilt weiterhin, und jede Maschine, die 5.2 ausgeführt hat, führt auch 5.3 aus.

Wie jedes führende Open Model in diesem Jahr ist es ein Mixture-of-Experts-Modell. Es verfügt über 744B Parameter und routet pro Token etwa 40B davon. Die geringe aktive Zahl ist der Grund, warum eine einzelne Maschine mit vernünftiger Geschwindigkeit generieren kann. Die große Gesamtzahl ist der Grund, warum diese Maschine eine ernstzunehmende sein muss — der Router wählt für jedes Token andere Experten aus, sodass alle resident bleiben.

Was benötigt wird

Unsloth veröffentlicht eine vollständige Quantisierungsleiter für GLM-5.3, und ungewöhnlicherweise veröffentlichen sie neben jeder Stufe einen gemessenen Genauigkeitswert. Diese zweite Spalte macht die Auswahl erst möglich.

Was jede Quantisierung aufgibt

Quantisierung speichert jedes Gewicht in weniger Bits. Die Einsparung ist real, und die Kosten sind es auch, und die Kosten verlaufen nicht linear. Liest man die Leiter von unten, sind die ersten wenigen Stufen fast kostenlos; liest man sie von oben, sind die letzten wenigen Stufen brutal.

Von 4-Bit auf 2-Bit zu wechseln spart 230GB und kostet fast sechzehn Punkte an Genauigkeit. Von 5-Bit auf 4-Bit zu wechseln spart 95GB und kostet anderthalb. Wenn Ihr Budget bis 512GB reicht, ist 4-Bit der Punkt, an dem sich das Modell noch wie es selbst verhält. Darunter betreiben Sie eine Demonstration.

Drei Wege, um 475GB zu erreichen

Ein Pool aus Unified Memory. Ein Mac Studio M3 Ultra 512GB fasst die 4-Bit-Build mit Spielraum für Kontext, und das ist heute die Maschine dafür. Die 2-Bit-Build bei 245GB passt direkt in eine 256GB-Maschine.² 512GB ist in beiden Fällen die Obergrenze auf Apple Silicon: Der neuere M5 Ultra erreicht ebenfalls denselben Wert, und seine 512GB-Konfiguration ist erst Ende Oktober fällig.⁵

Eine Karte plus Systemspeicher. Weil das Modell spärlich ist, funktioniert die Aufteilung gut. Attention-Layer liegen auf der Grafikkarte, Expert-Layer bleiben im Systemspeicher, und das --n-cpu-moe-Flag von llama.cpp legt fest, wo die Grenze verläuft. Unsloth berichtet, dass GLM-5.2 auf diese Weise auf einer einzelnen 24GB-Karte mit 256GB RAM läuft.² Erwarten Sie, dass es langsamer ist als Unified Memory, weil die Expert-Gewichte dann mit der Geschwindigkeit Ihres DDR5 statt Ihrer VRAM gelesen werden. Hier zahlt sich eine Workstation-Plattform mit acht Kanälen aus.

Alles im VRAM. Vier RTX PRO 6000-Karten liefern 384GB, genug für eine 3-Bit-Build. HelixML hat das kleinere GLM-5.3-Flash auf vier RTX PRO 6000 Server Edition-Karten mit 63.7 Ausgabe-Token pro Sekunde für eine einzelne Anfrage und 82.8 mit spekulativem Decoding gemessen und brauchte dafür einen fest gepinnten experimentellen Build von SGLang.³ Day-zero-Support für eine neue Architektur ist selten vollständig.

Lesen Sie die Lizenz, bevor Sie ein Produkt darauf planen

Hier unterscheidet sich GLM-5.3 von seiner eigenen Familie, und fast niemand erwähnt es. GLM-5.2 wurde unter MIT veröffentlicht.⁶ GLM-5.3 ist es nicht: Seine Gewichte tragen eine maßgeschneiderte, nach dem Modell benannte Lizenz, die Betreiber von Model-as-a-Service mit mehr als $10B Umsatz in den letzten zwölf Monaten verpflichtet, vor der kommerziellen Nutzung eine Sicherheitsprüfung durch Z.ai zu bestehen.⁴ GLM-5.3-Flash, veröffentlicht am 26. August, ist wieder MIT.⁴

Für die meisten Unternehmen ist die Umsatzschwelle akademisch. Entscheidend ist, dass die Lizenz nun je nach Release innerhalb einer Familie variiert, also pro Modell und nicht pro Anbieter prüfen.

Wichtige Einstellungen

Verwenden Sie für gewöhnliche Aufgaben eine Temperatur von 1.0 mit top-p bei 0.95, und top-p bei 1.0 für lange agentische Läufe.¹

Eine Falle ist spezifisch für dieses Release. GLM-5.3 verwendet standardmäßig maximales Reasoning, und Thinking kann nicht ausgeschaltet werden, was bei 5.2 nicht der Fall ist. Übergeben Sie --chat-template-kwargs '{"reasoning_effort":"low"}', um es herunterzusetzen, und setzen Sie clear_thinking bei Mehrturn-Gesprächen auf true, damit sich altes Reasoning nicht im Kontext ansammelt.¹ Allein gelassen in einer langen Unterhaltung verbraucht es sowohl Ihre Tokens als auch Ihren Memory-Spielraum.

Zur Mathematik dahinter siehe how much memory you need to run an open model locally. Für die neueste Version in derselben Gewichtsklasse siehe DeepSeek V4.1-Flash. Eine 512GB Maschine bedeutet heute ein Mac Studio M3 Ultra 512GB oder ein Neox Metal mit 512GB von registered ECC memory.