Hårdvarukrav för GLM-5.3

GLM-5.3 är den starkaste öppna viktmodellen du kan ladda ned i dag. Z.ai lanserade den den 14 augusti 2026 och publicerade vikterna två veckor senare, den 28 augusti, när säkerhetshärdningen var klar.⁴ Den rapporterar toppresultat på Terminal-Bench 3.0 och höjer den poängen från 4.6% till 28.3% jämfört med sin egen föregångare.⁴

Det är också en modell med 744B parametrar vars användbara build vill ha 475GB minne. Den siffran, inte benchmarken, avgör om du kan köra den.

• Parametrar744Bcirka 40B aktiva
• Kontext1Mtoken
• LicensGLM-5.3egen, inte MIT
• Minne vid 4-bit475GB94.3% noggrannhet

Samma modell som 5.2, vidaretränad

GLM-5.3 delar sin basmodell med GLM-5.2. Varje förbättring kommer därför från ytterligare efterträning snarare än en ny förträning.¹ Arkitekturen, parameterantalet och minneskostnaden är därför identiska med 5.2s, vilket är praktiskt: allt du lärt dig om att köra 5.2 gäller fortfarande, och varje maskin som körde 5.2 kör 5.3.

Som alla öppna frontlinjemodeller i år är den en mixture of experts. Den har 744B parametrar och använder ungefär 40B av dem per token. Den lilla aktiva siffran är anledningen till att en enda maskin kan generera i rimlig hastighet. Den stora totalsiffran är anledningen till att den maskinen måste vara seriös — routern väljer olika experter för varje token, så alla förblir residenta.

Vad den behöver

Unsloth publicerar en fullständig kvantiseringsstege för GLM-5.3, och ovanligt nog publicerar de en uppmätt noggrannhetssiffra bredvid varje nivå. Den andra kolumnen är det som gör valet möjligt.

Vad varje kvantisering ger upp

Kvantisering lagrar varje vikt i färre bitar. Besparingen är verklig och det är också kostnaden, och kostnaden är inte linjär. Läs stegen från botten och de första få stegen är nästan gratis; läs dem från toppen och de sista få stegen är brutala.

Från 4-bit till 2-bit sparar 230GB och kostar nästan sexton poäng i noggrannhet. Från 5-bit till 4-bit sparar 95GB och kostar en och en halv. Om din budget räcker till 512GB, är 4-bit där modellen fortfarande beter sig som sig själv. Under det kör du en demonstration.

Tre sätt att nå 475GB

Ett gemensamt minnespool. En Mac Studio M3 Ultra 512GB rymmer den 4-bitars byggnaden med utrymme för kontext, och det är den maskin som gör detta i dag. Den 2-bitars byggnaden för 245GB passar direkt i en 256GB-maskin.² 512GB är taket på Apple silicon oavsett vilket: den nyare M5 Ultra toppar ut vid samma siffra, och dess 512GB-konfiguration kommer inte förrän sent i oktober.⁵

Ett kort plus systemets RAM. Eftersom modellen är gles fungerar uppdelningen bra. Attention-lager ligger på grafikkortet, expertlager stannar i systemminnet, och llama.cpp:s --n-cpu-moe-flagga sätter var gränsen går. Unsloth rapporterar GLM-5.2 körande på ett enda 24GB-kort med 256GB RAM på detta sätt.² Räkna med att det blir långsammare än gemensamt minne, eftersom expertvikterna då läses i hastigheten hos din DDR5 snarare än ditt VRAM. Det är här en arbetsstationsplattform med åtta kanaler tjänar in sitt pris.

Allt i VRAM. Fyra RTX PRO 6000-kort ger 384GB, tillräckligt för en 3-bitars byggnad. HelixML mätte den mindre GLM-5.3-Flash på fyra RTX PRO 6000 Server Edition-kort till 63.7 utgångstoken per sekund för en enskild begäran och 82.8 med spekulativ avkodning, och behövde en fastlåst experimentell version av SGLang för att göra det.³ Stöd för en ny arkitektur från dag noll är sällan färdigt.

Läs licensen innan du planerar en produkt på den

Det är här GLM-5.3 skiljer sig från sin egen familj, och nästan ingen nämner det. GLM-5.2 släpptes under MIT.⁶ GLM-5.3 är det inte: dess vikter omfattas av en skräddarsydd licens uppkallad efter modellen, som kräver att operatörer av model-as-a-service över $10B i rullande tolv månaders intäkter genomgår en Z.ai-säkerhetsgranskning innan kommersiell användning.⁴ GLM-5.3-Flash, släppt den 26 augusti, är MIT igen.⁴

För de flesta företag är intäktsgränsen akademisk. Poängen är att licensen nu varierar från utgåva till utgåva inom en och samma familj, så kontrollera den per modell snarare än per leverantör.

Inställningar som spelar roll

Använd en temperatur på 1.0 med top-p på 0.95 för vanligt arbete, och top-p på 1.0 för långa agentiska körningar.¹

En fälla är specifik för denna utgåva. GLM-5.3 använder maximalt resonemang som standard och tänkande kan inte stängas av, vilket inte gäller för 5.2. Skicka --chat-template-kwargs '{"reasoning_effort":"low"}' för att tona ned det, och sätt clear_thinking till true för konversationer med flera turer så att gammalt resonemang inte samlas i kontexten.¹ Lämnas den ensam i en lång konversation kommer den att förbruka både dina token och ditt minnesutrymme.

För matten bakom allt detta, se how much memory you need to run an open model locally. För den senaste utgåvan i samma viktklass, se DeepSeek V4.1-Flash. En 512GB maskin i dag innebär en Mac Studio M3 Ultra 512GB eller en Neox Metal med 512GB av registered ECC memory.