Maskinkrav for GLM-5.3

GLM-5.3 er den sterkeste open-weight-modellen du kan laste ned i dag. Z.ai lanserte den den 14 august 2026 og publiserte vektene to uker senere, den 28 august, etter at sikkerhetsherding var fullført.⁴ Den oppgir toppresultater på Terminal-Bench 3.0 og løfter den scoren fra 4.6% til 28.3% mot sin egen forgjenger.⁴

Den er også en modell med 744B parametre, og den brukbare versjonen krever 475GB minne. Det tallet, ikke benchmarken, avgjør om du kan kjøre den.

• Parametere744Bomtrent 40B aktive
• Kontekst1Mtokens
• LisensGLM-5.3egendefinert, ikke MIT
• Minne ved 4-bit475GB94.3% nøyaktighet

Den samme modellen som 5.2, videreopplært

GLM-5.3 deler basismodellen sin med GLM-5.2. Hver gevinst kommer fra अतिरिक्त post-trening, ikke fra en ny pre-treningskjøring.¹ Arkitekturen, parameterantallet og minnebehovet er derfor identiske med 5.2s, noe som er praktisk: alt du lærte om å kjøre 5.2 gjelder fortsatt, og enhver maskin som kjørte 5.2 kjører 5.3.

Som alle ledende åpne modeller i år er den en blanding av eksperter. Den har 744B parametere og ruter omtrent 40B av dem per token. Den lave aktive andelen er grunnen til at én maskin kan generere med rimelig hastighet. Det store totalantallet er grunnen til at den maskinen må være en skikkelig kraftpakke — ruteren velger ulike eksperter for hver token, så alle må være i minnet.

Hva den trenger

Unsloth publiserer en full kvantiseringstrapp for GLM-5.3, og uvanlig nok publiserer de en målt nøyaktighetsverdi ved siden av hver av dem. Det er denne andre kolonnen som gjør valget mulig.

Hva hver kvantisering gir avkall på

Kvantisering lagrer hver vekt i færre biter. Gevinsten er reell, og det samme er kostnaden, og kostnaden er ikke lineær. Les trappen fra bunnen, og de første trinnene er nesten gratis; les den fra toppen, og de siste trinnene er brutale.

Å gå fra 4-bit til 2-bit sparer 230GB og koster nesten seksten poeng i nøyaktighet. Å gå fra 5-bit til 4-bit sparer 95GB og koster halvannet. Hvis budsjettet ditt strekker seg til 512GB, er 4-bit der modellen fortsatt oppfører seg som seg selv. Under det kjører du en demonstrasjon.

Tre måter å nå 475GB på

Én pool med enhetlig minne. En Mac Studio M3 Ultra 512GB holder 4-bit-byggingen med plass til kontekst, og det er maskinen som gjør dette i dag. 2-bit-byggingen på 245GB får plass i en 256GB-maskin direkte.² 512GB er taket på Apple silicon uansett: den nyere M5 Ultra topper ut på samme tall, og 512GB-konfigurasjonen kommer ikke før sent i oktober.⁵

Et kort og system-RAM. Fordi modellen er sparsom, fungerer delingen godt. Oppmerksomhetslagene legges på grafikkortet, ekspertlagene blir i systemminnet, og llama.cpps --n-cpu-moe-flagg bestemmer hvor streken går. Unsloth oppgir at GLM-5.2 kjører på ett enkelt 24GB-kort med 256GB RAM på denne måten.² Forvent at dette er tregere enn enhetlig minne, fordi ekspertvektene da leses med hastigheten til DDR5-en din i stedet for VRAM-en din. Det er her en arbeidsstasjon med åtte kanaler forsvarer prisen sin.

Alt i VRAM. Fire RTX PRO 6000-kort gir 384GB, nok for et 3-bit-bygg. HelixML målte den mindre GLM-5.3-Flash på fire RTX PRO 6000 Server Edition-kort til 63.7 utdata-token per sekund for én forespørsel og 82.8 med spekulativ dekoding, og trengte en fastlåst eksperimentell utgave av SGLang for å få det til.³ Støtte på dag null for en ny arkitektur er sjelden ferdig.

Les lisensen før du planlegger et produkt basert på den

Det er her GLM-5.3 skiller seg fra sin egen familie, og nesten ingen nevner det. GLM-5.2 ble utgitt under MIT.⁶ GLM-5.3 er det ikke: vektene deres har en spesiallaget lisens oppkalt etter modellen, som krever at operatører av model-as-a-service over $10B i inntekter de siste tolv månedene gjennomgår en Z.ai-sikkerhetsgjennomgang før kommersiell bruk.⁴ GLM-5.3-Flash, utgitt 26 august, er MIT igjen.⁴

For de fleste virksomheter er omsetningsterskelen akademisk. Poenget er at lisensen nå varierer fra utgivelse til utgivelse innenfor én familie, så sjekk den per modell heller enn per leverandør.

Innstillinger som betyr noe

Bruk en temperatur på 1.0 med top-p på 0.95 for vanlig arbeid, og top-p på 1.0 for lange agentiske kjøringer.¹

Én felle er spesifikk for denne utgivelsen. GLM-5.3 bruker som standard maksimal resonnering, og tenkning kan ikke slås av, noe som ikke gjelder for 5.2. Send --chat-template-kwargs '{"reasoning_effort":"low"}' for å redusere det, og sett clear_thinking til true for samtaler med flere runder, slik at gammel resonnering ikke hoper seg opp i konteksten.¹ Lar du den være alene i en lang samtale, vil den bruke både tokens og minnebufferen din.

For regnestykket bak alt dette, se hvor mye minne du trenger for å kjøre en åpen modell lokalt. For den nyeste utgivelsen i samme vektklasse, se DeepSeek V4.1-Flash. En 512GB maskin i dag betyr en Mac Studio M3 Ultra 512GB eller en Neox Metal med 512GB med registered ECC memory.