Requisiti hardware di GLM-5.3

GLM-5.3 è il modello open-weight più potente che puoi scaricare oggi. Z.ai lo ha lanciato il 14 agosto 2026 e ha pubblicato i pesi due settimane dopo, il 28 agosto, una volta completato il rafforzamento della sicurezza.⁴ Riporta risultati all’avanguardia su Terminal-Bench 3.0 e porta quel punteggio da 4.6% a 28.3% rispetto al proprio predecessore.⁴

È anche un modello da 744B parametri la cui build utilizzabile richiede 475GB di memoria. Quel numero, non il benchmark, decide se puoi eseguirlo.

• Parametri744Bcirca 40B attivi
• Contesto1Mtoken
• LicenzaGLM-5.3personalizzata, non MIT
• Memoria a 4 bit475GB94.3% accuratezza

Lo stesso modello di 5.2, addestrato ulteriormente

GLM-5.3 condivide il suo modello base con GLM-5.2. Ogni miglioramento deriva da ulteriore post-training, non da una nuova fase di pre-training.¹ L’architettura, il numero di parametri e il fabbisogno di memoria sono quindi identici a quelli di 5.2, il che è comodo: tutto ciò che hai imparato a proposito dell’esecuzione di 5.2 continua ad applicarsi, e qualsiasi macchina che eseguiva 5.2 esegue 5.3.

Come ogni modello aperto all’avanguardia di quest’anno, è un mixture of experts. Ha 744B parametri e ne instrada circa 40B per token. Il basso numero attivo è il motivo per cui una singola macchina può generare a una velocità ragionevole. L’alto numero totale è il motivo per cui quella macchina deve essere di livello serio — il router sceglie esperti diversi per ogni token, quindi restano tutti residenti.

Di cosa ha bisogno

Unsloth pubblica una scala completa di quantizzazione per GLM-5.3, e in modo insolito pubblica accanto a ciascuna una misura di accuratezza. È la seconda colonna a rendere possibile la scelta.

Cosa comporta ogni quantizzazione

La quantizzazione memorizza ogni peso in meno bit. Il risparmio è reale e lo è anche il costo, e il costo non è lineare. Leggi la scala dal basso e i primi passaggi sono quasi gratuiti; leggila dall'alto e gli ultimi passaggi sono brutali.

Passare da 4-bit a 2-bit fa risparmiare 230GB e costa quasi sedici punti di accuratezza. Passare da 5-bit a 4-bit fa risparmiare 95GB e costa uno e mezzo. Se il tuo budget arriva a 512GB, la build 4-bit è il punto in cui il modello si comporta ancora come se stesso. Al di sotto di quello stai eseguendo una dimostrazione.

Tre modi per arrivare a 475GB

Un pool di memoria unificata. Una Mac Studio M3 Ultra 512GB contiene la build a 4 bit con margine per il contesto, ed è la macchina che oggi lo fa. La build a 2 bit a 245GB entra direttamente in una macchina 256GB.² 512GB è il tetto su Apple silicon in ogni caso: il più recente M5 Ultra arriva allo stesso valore massimo, e la sua configurazione 512GB non è prevista prima di fine ottobre.⁵

Una scheda più RAM di sistema. Poiché il modello è sparso, la suddivisione funziona bene. I livelli di attenzione vanno sulla scheda grafica, i livelli degli esperti restano nella memoria di sistema, e il flag --n-cpu-moe di llama.cpp imposta dove cade la linea. Unsloth segnala GLM-5.2 in esecuzione su una singola scheda 24GB con 256GB di RAM in questo modo.² Aspettati che sia più lento della memoria unificata, perché i pesi degli esperti vengono letti alla velocità della tua DDR5 anziché della VRAM. È qui che una piattaforma workstation a otto canali si guadagna il suo prezzo.

Tutto in VRAM. Quattro schede RTX PRO 6000 danno 384GB, abbastanza per una build a 3 bit. HelixML ha misurato il GLM-5.3-Flash più piccolo su quattro schede RTX PRO 6000 Server Edition a 63.7 token di output al secondo per una singola richiesta e 82.8 con speculative decoding, e per farlo ha avuto bisogno di una build sperimentale bloccata di SGLang.³ Il supporto day-zero per una nuova architettura raramente è completo.

Leggi la licenza prima di pianificarci un prodotto

È qui che GLM-5.3 si differenzia dalla sua stessa famiglia, e quasi nessuno lo menziona. GLM-5.2 è stato rilasciato con licenza MIT.⁶ GLM-5.3 non lo è: i suoi pesi sono coperti da una licenza personalizzata che porta il nome del modello, la quale richiede agli operatori model-as-a-service con ricavi negli ultimi dodici mesi superiori a $10B di superare una revisione di sicurezza Z.ai prima dell'uso commerciale.⁴ GLM-5.3-Flash, rilasciato il 26 agosto, torna a essere MIT.⁴

Per la maggior parte delle aziende, la soglia di fatturato è un aspetto accademico. Il punto è che ora la licenza varia release per release all'interno di una stessa famiglia, quindi verifica per singolo modello invece che per fornitore.

Impostazioni importanti

Usa una temperatura di 1.0 con top-p a 0.95 per il lavoro ordinario, e top-p a 1.0 per lunghe esecuzioni agentiche.¹

Un'insidia è specifica per questa release. GLM-5.3 usa il ragionamento massimo per impostazione predefinita e il thinking non può essere disattivato, cosa che non vale per 5.2. Passa --chat-template-kwargs '{"reasoning_effort":"low"}' per ridurlo, e imposta clear_thinking su true per le conversazioni multi-turno, così il vecchio ragionamento non si accumula nel contesto.¹ Se lasciato libero in una lunga conversazione, consumerà sia i tuoi token sia il margine di memoria disponibile.

Per i calcoli alla base di tutto questo, vedi quanta memoria ti serve per eseguire localmente un modello open. Per la release più recente nella stessa classe di peso, vedi DeepSeek V4.1-Flash. Una macchina 512GB oggi significa un Mac Studio M3 Ultra 512GB oppure un Neox Metal con 512GB di memoria ECC registrata.