Hardwarové požadavky GLM-5.3

GLM-5.3 je dnes nejsilnější open-weight model, který si můžete stáhnout. Z.ai jej uvedla 14. srpna 2026 a o dva týdny později, 28. srpna, po dokončení bezpečnostního zpevnění publikovala váhy.⁴ Uvádí výsledky na úrovni špičky na Terminal-Bench 3.0 a proti svému předchůdci zvyšuje toto skóre z 4.6% na 28.3%.⁴

Je to také model s 744B parametry, jehož použitelná sestava vyžaduje 475GB paměti. Právě toto číslo, ne benchmark, rozhoduje o tom, zda jej můžete spustit.

• Parametry744Bzhruba 40B aktivních
• Kontext1Mtokenů
• LicenceGLM-5.3vlastní, ne MIT
• Paměť při 4bitové475GB94.3% přesnost

Stejný model jako 5.2, dále dotrénovaný

GLM-5.3 sdílí základní model s GLM-5.2. Veškeré zlepšení pochází z dodatečného post-tréninku, nikoli z nového předtrénování.¹ Architektura, počet parametrů i paměťová náročnost jsou tedy stejné jako u 5.2, což je praktické: vše, co jste se naučili o spuštění 5.2, stále platí a každý počítač, který zvládl 5.2, zvládne i 5.3.

Jako každý špičkový open model letos je i tento mixture of experts. Obsahuje 744B parametrů a na každý token využívá zhruba 40B z nich. Malé aktivní číslo je důvod, proč na jednom počítači může generovat přiměřenou rychlostí. Velké celkové číslo je důvod, proč ten počítač musí být skutečně výkonný — router vybírá pro každý token jiné experty, takže všechny zůstávají v paměti.

Co je potřeba

Unsloth zveřejňuje úplnou škálu kvantizace pro GLM-5.3 a neobvykle u každé z nich zveřejňuje i naměřenou hodnotu přesnosti. Právě tento druhý sloupec umožňuje volbu.

Co každá kvantizace obětuje

Kvantizace ukládá každou váhu do menšího počtu bitů. Úspora je skutečná a stejně tak i náklad, přičemž ten náklad není lineární. Čtěte škálu odspodu a první kroky jsou téměř zdarma; čtěte ji shora a poslední kroky jsou drsné.

Přechod z 4bitové na 2bitové ušetří 230GB a stojí téměř šestnáct bodů přesnosti. Přechod z 5bitové na 4bitové ušetří 95GB a stojí jeden a půl. Pokud vám rozpočet dovolí 512GB, 4bitová je úroveň, kde se model stále chová jako sám sebe. Pod ní spouštíte demonstraci.

Tři způsoby, jak dosáhnout 475GB

Jeden fond sjednocené paměti. Mac Studio M3 Ultra 512GB pojme 4bitovou sestavu s rezervou pro kontext a je to stroj, který to dnes zvládá. 2bitová sestava za 245GB se vejde přímo do stroje 256GB.² 512GB je v obou případech strop na Apple silicon: novější M5 Ultra končí na stejné hodnotě a jeho konfigurace 512GB má dorazit až na konci října.⁵

Karta plus systémová RAM. Protože je model s稀疏ný, rozdělení funguje dobře. Attention vrstvy běží na grafické kartě, expert vrstvy zůstávají v systémové paměti a příznak llama.cpp --n-cpu-moe určuje, kde se hranice dělí. Unsloth uvádí, že GLM-5.2 tak běží na jediné kartě 24GB s 256GB paměti RAM.² Očekávejte, že to bude pomalejší než sjednocená paměť, protože expert váhy pak čtou rychlostí vašeho DDR5, nikoli VRAM. Tady si osmislotová workstation platforma vydělá na svou cenu.

Všechno ve VRAM. Čtyři karty RTX PRO 6000 dávají 384GB, což stačí pro 3bitovou sestavu. HelixML naměřil menší GLM-5.3-Flash na čtyřech kartách RTX PRO 6000 Server Edition na 63.7 výstupních tokenech za sekundu pro jeden požadavek a 82.8 se spekulativním dekódováním a k tomu potřeboval připnutou experimentální verzi SGLang.³ Podpora nové architektury v den uvedení bývá jen zřídka hotová.

Přečtěte si licenci, než na ní budete plánovat produkt

Tady se GLM-5.3 odlišuje od vlastní rodiny a téměř nikdo to nezmiňuje. GLM-5.2 byl vydán pod MIT.⁶ GLM-5.3 takový není: jeho váhy nesou vlastní licenci pojmenovanou po modelu, která u provozovatelů model-as-a-service s tržbami nad $10B za posledních dvanáct měsíců vyžaduje před komerčním použitím bezpečnostní prověrku od Z.ai.⁴ GLM-5.3-Flash, vydaný v 26 srpnu, je znovu pod MIT.⁴

Pro většinu firem je hranice tržeb akademická. Jde o to, že se licence nyní liší vydání od vydání v rámci jedné rodiny, takže ji kontrolujte podle jednotlivých modelů, nikoli podle výrobce.

Nastavení, na kterých záleží

Pro běžnou práci použijte teplotu 1.0 s top-p na 0.95 a pro dlouhé agentní běhy top-p na 1.0.¹

Jeden háček se týká právě tohoto vydání. GLM-5.3 ve výchozím nastavení používá maximální uvažování a thinking nelze vypnout, což u 5.2 neplatí. Předáním --chat-template-kwargs '{"reasoning_effort":"low"}' to snížíte a pro vícerozměrné konverzace nastavte clear_thinking na true, aby se staré uvažování nehromadilo v kontextu.¹ Ponecháte-li to v dlouhé konverzaci bez zásahu, spotřebuje to jak vaše tokeny, tak i rezervu paměti.

Pro aritmetiku za tím vším se podívejte na kolik paměti potřebujete k lokálnímu spuštění otevřeného modelu. Pro nejnovější vydání ve stejné váhové třídě se podívejte na DeepSeek V4.1-Flash. Stroj 512GB dnes znamená Mac Studio M3 Ultra 512GB nebo Neox Metal s 512GB registrované paměti ECC.