GLM-5.3 hardwarevereisten

GLM-5.3 is het sterkste open-weight model dat je vandaag kunt downloaden. Z.ai lanceerde het op 14 augustus 2026 en publiceerde de weights twee weken later, op 28 augustus, nadat de veiligheidsversterking was afgerond.⁴ Het behaalt state-of-the-art resultaten op Terminal-Bench 3.0 en tilt die score van 4.6% naar 28.3% ten opzichte van zijn eigen voorganger.⁴

Het is ook een model met 744B parameters waarvan de bruikbare build 475GB geheugen wil. Dat getal, niet de benchmark, bepaalt of je het kunt draaien.

• Parameters744Bongeveer 40B actief
• Context1Mtokens
• LicentieGLM-5.3aangepast, niet MIT
• Geheugen op 4-bit475GB94.3% nauwkeurigheid

Hetzelfde model als 5.2, verder getraind

GLM-5.3 deelt zijn basismodel met GLM-5.2. Elke winst komt van extra post-training in plaats van een nieuwe pre-trainingrun.¹ De architectuur, het aantal parameters en de geheugenrekening zijn dus identiek aan die van 5.2, wat handig is: alles wat je hebt geleerd over het draaien van 5.2 blijft gelden, en elke machine die 5.2 draaide, draait 5.3.

Zoals elk frontier open model dit jaar is het een mixture of experts. Het bevat 744B parameters en routeert er ongeveer 40B per token. Die kleine actieve hoeveelheid is waarom één machine in een redelijke snelheid kan genereren. Die grote totale hoeveelheid is waarom die machine serieus moet zijn — de router kiest voor elk token andere experts, dus ze blijven allemaal resident.

Wat het nodig heeft

Unsloth publiceert een volledige kwantisatieladder voor GLM-5.3, en opvallend genoeg publiceren zij bij elk niveau een gemeten nauwkeurigheidswaarde. Die tweede kolom maakt de keuze mogelijk.

Wat elke kwantisatie opgeeft

Kwantisatie slaat elke gewichtswaarde op in minder bits. De besparing is reëel en de kostprijs ook, en die kostprijs is niet lineair. Lees de ladder van onderen af en de eerste paar treden zijn bijna gratis; lees hem van boven af en de laatste paar treden zijn genadeloos.

Van 4-bit naar 2-bit gaan bespaart 230GB en kost bijna zestien punten aan nauwkeurigheid. Van 5-bit naar 4-bit gaan bespaart 95GB en kost anderhalf punt. Als je budget toereikend is voor 512GB, is 4-bit de uitvoering waarin het model nog steeds zichzélf blijft. Daaronder gebruik je een demonstratie.

Drie manieren om 475GB te bereiken

Eén pool van uniform geheugen. Een Mac Studio M3 Ultra 512GB biedt plaats aan de 4-bit build met ruimte over voor context, en dit is vandaag de machine die dat doet. De 2-bit build op 245GB past rechtstreeks in een 256GB machine.² 512GB is hoe dan ook de bovengrens op Apple silicon: de nieuwere M5 Ultra komt uit op hetzelfde cijfer, en de 512GB configuratie komt pas eind oktober.⁵

Een kaart plus systeem-RAM. Omdat het model sparse is, werkt de verdeling goed. Aandachtslagen gaan op de grafische kaart, expertlagen blijven in het systeemgeheugen, en de --n-cpu-moe vlag van llama.cpp bepaalt waar de grens ligt. Unsloth meldt GLM-5.2 draaiend op een enkele 24GB kaart met 256GB RAM op deze manier.² Verwacht dat dit trager is dan uniform geheugen, omdat de expertgewichten dan worden gelezen aan de snelheid van je DDR5 in plaats van je VRAM. Dit is waar een workstationplatform met acht kanalen zijn prijs rechtvaardigt.

Alles in VRAM. Vier RTX PRO 6000 kaarten leveren 384GB, genoeg voor een 3-bit build. HelixML mat de kleinere GLM-5.3-Flash op vier RTX PRO 6000 Server Edition kaarten op 63.7 outputtokens per seconde voor één verzoek en 82.8 met speculative decoding, en had daarvoor een vastgepinde experimentele build van SGLang nodig.³ Ondersteuning op dag nul voor een nieuwe architectuur is zelden af.

Lees de licentie voordat je er een product op plant

Dit is waar GLM-5.3 afwijkt van zijn eigen familie, en bijna niemand noemt het. GLM-5.2 is uitgebracht onder MIT.⁶ GLM-5.3 is dat niet: de gewichten dragen een op maat gemaakte licentie die naar het model is vernoemd, en die operators van model-as-a-service met meer dan $10B aan omzet in de laatste twaalf maanden verplicht eerst een Z.ai-beveiligingsbeoordeling te doorlopen vóór commercieel gebruik.⁴ GLM-5.3-Flash, uitgebracht op 26 augustus, is opnieuw MIT.⁴

Voor de meeste bedrijven is de omzetdrempel academisch. Het punt is dat de licentie nu per release verschilt binnen één familie, dus controleer die per model in plaats van per leverancier.

Belangrijke instellingen

Gebruik een temperatuur van 1.0 met top-p op 0.95 voor normaal werk, en top-p op 1.0 voor lange agentic runs.¹

Eén valkuil is specifiek voor deze release. GLM-5.3 gebruikt standaard maximale redeneercapaciteit en denken kan niet worden uitgeschakeld, wat niet geldt voor 5.2. Geef --chat-template-kwargs '{"reasoning_effort":"low"}' mee om dit terug te zetten, en stel clear_thinking in op true voor gesprekken met meerdere beurten, zodat oude redenering niet ophoopt in de context.¹ Als je het ongemoeid laat tijdens een lang gesprek, gebruikt het zowel je tokens als je geheugenruimte op.

Voor de berekening achter dit alles, zie how much memory you need to run an open model locally. Voor de nieuwste release in dezelfde gewichtsklasse, zie DeepSeek V4.1-Flash. Een 512GB machine today means a Mac Studio M3 Ultra 512GB of een Neox Metal met 512GB aan registered ECC memory.