GLM-5.3 hardverski zahtjevi

744B težine, 40B aktivnih po tokenu, i 4-bit izdanje kojem treba 475GB. Što najjači otvoreni model zahtijeva, čega se odričete pri svakoj kvantizaciji i koje ga mašine mogu pokrenuti.

Terminal showing GLM-5.3 loaded with llama-server and --n-cpu-moe 40: 744B parameters with 40B active per token, attention layers on the GPU and expert layers in system RAM, 475GB total memory and 94.29% top-1 accuracy

GLM-5.3 najjači je open-weight model koji danas možete preuzeti. Z.ai ga je lansirao 14. kolovoza 2026. i objavio težine dva tjedna kasnije, 28. kolovoza, nakon što je završeno sigurnosno učvršćivanje.4 Navodi vrhunske rezultate na Terminal-Bench 3.0 i podiže taj rezultat s 4.6% na 28.3% u odnosu na svojeg prethodnika.4

Također je model s 744B parametara, a njegova upotrebljiva inačica traži 475GB memorije. Taj broj, a ne benchmark, odlučuje možete li ga pokrenuti.

  • Parametri744Boko 40B aktivnih
  • Kontekst1Mtokena
  • LicencaGLM-5.3prilagođena, ne MIT
  • Memorija na 4-bitnom475GB94.3% točnost

Isti model kao 5.2, dodatno podučen

GLM-5.3 dijeli svoj osnovni model s GLM-5.2. Svaka dobit dolazi iz dodatnog post-treniranja, a ne iz novog pre-treninga.1 Arhitektura, broj parametara i memorijski zahtjev stoga su identični modelu 5.2, što je praktično: sve što ste naučili o pokretanju 5.2 i dalje vrijedi, a svako računalo na kojem je radio 5.2 radi i 5.3.

Kao i svaki vrhunski open model ove godine, riječ je o mješavini stručnjaka. Sadrži 744B parametara i usmjerava oko 40B njih po tokenu. Mala aktivna brojka razlog je zašto jedno računalo može generirati razumnom brzinom. Velika ukupna brojka razlog je zašto to računalo mora biti ozbiljno — usmjerivač bira različite stručnjake za svaki token, pa svi ostaju prisutni.

Što treba

Unsloth objavljuje potpunu ljestvicu kvantizacije za GLM-5.3, a neobično je što uz svaku objavljuje i izmjerenu vrijednost točnosti. Taj drugi stupac omogućuje odabir.

GLM-5.3 nastaje iz Unslotha. Memorija je zbroj sistemske RAM memorije i VRAM-a, odnosno objedinjene memorije, i premašuje veličinu datoteke jer se kontekst i radno stanje nalaze iznad toga.
Izrada Na disku Memorija Točnost
UD-IQ1_S 216.7GB 223GB 72.56%
UD-IQ2_M 238.6GB 245GB 78.53%
UD-IQ3_XXS 281.7GB 290GB 84.15%
UD-Q3_K_XL 343.0GB 360GB 88.86%
UD-Q4_K_XL 467.3GB 475GB 94.29%
UD-Q5_K_XL 562.5GB 570GB 95.82%

Što svaka kvantizacija gubi

Kvantizacija pohranjuje svaku težinu u manje bitova. Ušteda je stvarna, kao i trošak, a trošak nije linearan. Čitajte ljestvicu odozdo i prvi su koraci gotovo besplatni; čitajte je odozgo i posljednji su koraci brutalni.

Što svaka kvantizacija gubiTop-1 točnosti žrtvovano u odnosu na model pune preciznosti, u postotnim bodovima. Manje je bolje.
  1. 1-bit27.4
  2. 2-bit21.5
  3. 3-bit15.9
  4. 3-bit XL11.1
  5. 4-bit5.7
  6. 5-bit4.2

Izvedeno iz Unslothove objavljene top-1 točnosti za izdanja UD-IQ1_S, UD-IQ2_M, UD-IQ3_XXS, UD-Q3_K_XL, UD-Q4_K_XL i UD-Q5_K_XL modela GLM-5.3.1

Prelazak s 4-bita na 2-bit štedi 230GB i košta gotovo šesnaest postotnih bodova točnosti. Prelazak s 5-bita na 4-bit štedi 95GB i košta jedan i pol. Ako vam budžet doseže do 512GB, 4-bit je razina na kojoj se model još ponaša kao sam sebe. Ispod toga pokrećete demonstraciju.

Tri načina da dođete do 475GB

Jedan skup objedinjene memorije. Mac Studio M3 Ultra 512GB drži 4-bitnu verziju s dovoljno prostora za kontekst, i to je stroj koji to danas obavlja. 2-bitna verzija na 245GB stane izravno na 256GB stroj.2 512GB je u svakom slučaju gornja granica na Apple silikonu: noviji M5 Ultra doseže istu vrijednost, a njegova konfiguracija 512GB ne dolazi prije kraja listopada.5

Kartica plus sistemska RAM memorija. Budući da je model rijedak, podjela dobro funkcionira. Slojevi pažnje idu na grafičku karticu, ekspertski slojevi ostaju u sistemskoj memoriji, a zastavica llama.cpp-a --n-cpu-moe određuje gdje je granica. Unsloth izvještava da GLM-5.2 radi na jednoj kartici 24GB s 256GB RAM-a na ovaj način.2 Očekujte da će biti sporije od objedinjene memorije, jer se tada težine eksperata čitaju brzinom vašeg DDR5, a ne vašeg VRAM-a. Tu osmerokanalna radna platforma opravdava svoju cijenu.

Sve u VRAM-u. Četiri RTX PRO 6000 kartice daju 384GB, dovoljno za 3-bitnu verziju. HelixML je izmjerio manji GLM-5.3-Flash na četiri RTX PRO 6000 Server Edition kartice pri 63.7 izlaznih tokena u sekundi za jedan zahtjev i 82.8 sa spekulativnim dekodiranjem, a za to im je trebala prikvačena eksperimentalna verzija SGlanga.3 Podrška prvog dana za novu arhitekturu rijetko je dovršena.

Pročitajte licencu prije nego što na njoj planirate proizvod

Tu se GLM-5.3 razlikuje od vlastite obitelji, a gotovo nitko to ne spominje. GLM-5.2 objavljen je pod licencom MIT.6 GLM-5.3 nije: njegove težine nose posebnu licencu nazvanu po modelu, koja zahtijeva da operateri model-as-a-service iznad $10B u prihodu u posljednjih dvanaest mjeseci prođu sigurnosni pregled Z.aija prije komercijalne uporabe.4 GLM-5.3-Flash, objavljen 26 kolovoza, opet je MIT.4

Za većinu poslovnih subjekata prag prihoda je akademsko pitanje. Poanta je da licenca sada varira izdanje po izdanje unutar iste obitelji, pa je provjerite po modelu, a ne po dobavljaču.

Postavke koje su važne

Koristite temperaturu od 1.0 uz top-p na 0.95 za uobičajen rad, a top-p na 1.0 za duga agentna pokretanja.1

Jedna zamka specifična je za ovo izdanje. GLM-5.3 prema zadanim postavkama koristi maksimalno rezoniranje i razmišljanje se ne može isključiti, što nije slučaj s 5.2. Proslijedite --chat-template-kwargs '{"reasoning_effort":"low"}' kako biste to smanjili, i postavite clear_thinking na true za višerazgovorne razgovore kako se staro rezoniranje ne bi gomilalo u kontekstu.1 Ako se ostavi sam u dugom razgovoru, potrošit će i vaše tokene i vaš raspoloživi memorijski prostor.

Za matematiku iza svega ovoga, pogledajte koliko vam je memorije potrebno za lokalno pokretanje otvorenog modela. Za najnovije izdanje u istoj klasi težine, pogledajte DeepSeek V4.1-Flash. 512GB računalo danas znači Mac Studio M3 Ultra 512GB ili Neox Metal s 512GB od registered ECC memory.

Izvori

  1. Unsloth, GLM-5.3: Kako pokrenuti lokalno — parametri, veličine kvantizacije, zahtjevi za memorijom, točnost top-1 po izdanju, preporučene postavke i zastavice za razinu rezoniranja.
  2. Unsloth, GLM-5.2: Kako pokrenuti lokalno — 2-bit izdanje na Macu s 256GB objedinjene memorije i rad s jednom karticom uz MoE offloading.
  3. HelixML, "GLM-5.3-Flash na RTX PRO 6000, dio 1", 27 kolovoza 2026.
  4. Z.ai, GLM-5.3 model card i licenca, Hugging Face — datumi objave i objave otvorenih težina, rezultati Terminal-Bench 3.0, uvjeti licence i MIT-licencirani GLM-5.3-Flash.
  5. Apple, "Apple predstavlja M6 i M5 Ultra", 25 kolovoza 2026 — 512GB maksimalne objedinjene memorije.
  6. Z.ai, GLM-5.2 model card, Hugging Face — MIT licenca.