Хардуерни изисквания за GLM-5.3

GLM-5.3 е най-мощният open-weight модел, който можете да изтеглите днес. Z.ai го пусна на 14 август 2026 и публикува weights две седмици по-късно, на 28 август, след като затвърдяването на безопасността беше завършено.⁴ Той отчита state-of-the-art резултати в Terminal-Bench 3.0 и повишава този резултат от 4.6% до 28.3% спрямо своя предшественик.⁴

Той е и модел с 744B параметри, чиято usable build изисква 475GB памет. Именно това число, а не benchmark-ът, решава дали можете да го пуснете.

• Parameters744Bоколо 40B active
• Контекст1Mtokens
• ЛицензGLM-5.3custom, not MIT
• Памет при 4-bit475GB94.3% точност

Същият модел като 5.2, допълнително обучен

GLM-5.3 споделя своя base model с GLM-5.2. Всяко подобрение идва от допълнително post-training, а не от нов pre-training run.¹ Архитектурата, броят параметри и memory bill са следователно идентични с тези на 5.2, което е удобно: всичко, което сте научили за пускането на 5.2, все още важи, и всяка машина, която е пускала 5.2, пуска 5.3.

Like every frontier open model this year it is a mixture of experts. It holds 744B parameters and routes about 40B of them per token. The small active figure is why a single machine can generate at a reasonable speed. The large total figure is why that machine needs to be a serious one — the router picks different experts for every token, so all of them stay resident.

Какво изисква

Unsloth публикуват пълна стълбичка за quantisation за GLM-5.3 и, необичайно, публикуват и измерена стойност за точност до всеки вариант. Именно тази втора колона прави избора възможен.

Какво губи всяка quantisation

Quantisation съхранява всяка тежест в по-малко битове. Спестяването е реално и цената също, а цената не е линейна. Четете стълбицата отдолу нагоре и първите няколко стъпки са почти безплатни; четете я отгоре надолу и последните няколко стъпки са брутални.

Преминаването от 4-bit към 2-bit спестява 230GB и струва почти шестнадесет точки точност. Преминаването от 5-bit към 4-bit спестява 95GB и струва една и половина. Ако бюджетът ви стига за 512GB, 4-bit е мястото, където моделът все още се държи като себе си. Под това вече пускате демонстрация.

Три начина да достигнете 475GB

Една обща pool of unified memory. Един Mac Studio M3 Ultra 512GB побира 4-bit build с резерв за контекст и това е машината, която го прави днес. 2-bit build при 245GB се побира директно в 256GB машина.² 512GB е таванът при Apple silicon и в двата случая: по-новият M5 Ultra достига същата стойност, а неговата 512GB configuration не се очаква до края на октомври.⁵

Карточка плюс системна RAM. Тъй като моделът е sparse, разделението работи добре. Attention layers отиват на графичната карта, expert layers остават в системната памет, а flag-ът на llama.cpp --n-cpu-moe определя къде е границата. Unsloth report GLM-5.2 running on a single 24GB card with 256GB RAM по този начин.² Очаквайте да е по-бавно от unified memory, защото expert weights тогава се четат със скоростта на вашата DDR5, а не на VRAM. Това е мястото, където workstation платформа с осем канала оправдава цената си.

Всичко във VRAM. Четири RTX PRO 6000 cards дават 384GB, достатъчно за 3-bit build. HelixML measured по-малкия GLM-5.3-Flash на four RTX PRO 6000 Server Edition cards at 63.7 output tokens per second for a single request and 82.8 with speculative decoding, and needed a pinned experimental build of SGLang to do it.³ Поддръжката в day-zero за нова архитектура рядко е завършена.

Прочетете лиценза, преди да планирате продукт върху него

Това е мястото, където GLM-5.3 се различава от собственото си семейство и почти никой не го споменава. GLM-5.2 беше пуснат под MIT.⁶ GLM-5.3 не е: неговите weights носят bespoke лиценз, кръстен на модела, който изисква операторите на model-as-a-service с над $10B trailing twelve-month revenue да преминат през Z.ai security review преди търговска употреба.⁴ GLM-5.3-Flash, пуснат на 26 август, отново е MIT.⁴

За повечето бизнеси прагът за приходите е академичен. Важното е, че лицензът вече варира при всяка версия в рамките на едно и също семейство, така че проверявайте го по модел, а не по доставчик.

Настройки, които имат значение

Използвайте температура 1.0 с top-p 0.95 за обичайна работа и top-p 1.0 за дълги агентни изпълнения.¹

Една клопка е специфична за това издание. GLM-5.3 използва максимално reasoning по подразбиране и thinking не може да бъде изключен, което не е вярно за 5.2. Подайте --chat-template-kwargs '{"reasoning_effort":"low"}', за да го намалите, и задайте clear_thinking на true за многоходови разговори, за да не се натрупва старо reasoning в контекста.¹ Оставен само в дълъг разговор, той ще изразходва и вашите токени, и свободния капацитет на паметта ви.

За аритметиката зад всичко това вижте колко памет са ви необходими, за да стартирате open model локално. За най-новото издание в същия клас по тегло вижте DeepSeek V4.1-Flash. 512GB машина днес означава Mac Studio M3 Ultra 512GB или Neox Metal с 512GB от registered ECC memory.