Απαιτήσεις υλικού για το GLM-5.3

Το GLM-5.3 είναι το ισχυρότερο μοντέλο ανοιχτών βαρών που μπορείτε να κατεβάσετε σήμερα. Η Z.ai το κυκλοφόρησε στις 14 Αυγούστου, 2026 και δημοσίευσε τα weights δύο εβδομάδες αργότερα, τον 28 Αύγουστο, μόλις ολοκληρώθηκε η ενίσχυση ασφάλειας.⁴ Αναφέρει αποτελέσματα αιχμής στο Terminal-Bench 3.0 και βελτιώνει αυτό το σκορ από 4.6% σε 28.3% σε σχέση με τον προκάτοχό του.⁴

Είναι επίσης ένα μοντέλο 744B παραμέτρων, του οποίου η αξιοποιήσιμη έκδοση απαιτεί 475GB μνήμης. Αυτός ο αριθμός, όχι το benchmark, καθορίζει αν μπορείτε να το εκτελέσετε.

• Παράμετροι744Bπερίπου 40B ενεργές
• Πλαίσιο1Mtokens
• ΆδειαGLM-5.3προσαρμοσμένη, όχι MIT
• Μνήμη σε 4-bit475GB94.3% ακρίβεια

Το ίδιο μοντέλο όπως το 5.2, εκπαιδευμένο περαιτέρω

Το GLM-5.3 μοιράζεται το base model του με το GLM-5.2. Κάθε βελτίωση προέρχεται από επιπλέον post-training και όχι από νέο pre-training run.¹ Η αρχιτεκτονική, ο αριθμός παραμέτρων και το κόστος μνήμης είναι επομένως ίδια με του 5.2, κάτι που είναι βολικό: ό,τι μάθατε για την εκτέλεση του 5.2 εξακολουθεί να ισχύει, και κάθε μηχάνημα που έτρεχε το 5.2 τρέχει το 5.3.

Όπως κάθε frontier open model φέτος, είναι mixture of experts. Περιέχει 744B παραμέτρους και δρομολογεί περίπου 40B από αυτές ανά token. Το μικρό ενεργό νούμερο είναι ο λόγος που ένα μόνο μηχάνημα μπορεί να κάνει generation με λογική ταχύτητα. Το μεγάλο συνολικό νούμερο είναι ο λόγος που αυτό το μηχάνημα πρέπει να είναι σοβαρό — ο router επιλέγει διαφορετικούς experts για κάθε token, οπότε όλοι παραμένουν resident.

Τι χρειάζεται

Η Unsloth δημοσιεύει μια πλήρη κλίμακα quantisation για το GLM-5.3, και ασυνήθιστα δημοσιεύει δίπλα σε κάθε μία μια μετρημένη τιμή ακρίβειας. Αυτή η δεύτερη στήλη είναι που κάνει δυνατή την επιλογή.

Τι προσφέρει και τι χάνεται με κάθε quantisation

Το quantisation αποθηκεύει κάθε weight σε λιγότερα bits. Η εξοικονόμηση είναι πραγματική και το ίδιο και το κόστος, και το κόστος δεν είναι γραμμικό. Διαβάστε την κλίμακα από κάτω προς τα πάνω και τα πρώτα λίγα βήματα είναι σχεδόν δωρεάν· διαβάστε την από πάνω προς τα κάτω και τα τελευταία λίγα βήματα είναι σκληρά.

Η μετάβαση από 4-bit σε 2-bit εξοικονομεί 230GB και κοστίζει σχεδόν δεκαέξι μονάδες ακρίβειας. Η μετάβαση από 5-bit σε 4-bit εξοικονομεί 95GB και κοστίζει μιάμιση. Αν ο προϋπολογισμός σας φτάνει έως το 512GB, το 4-bit είναι το σημείο όπου το μοντέλο εξακολουθεί να συμπεριφέρεται σαν τον εαυτό του. Κάτω από αυτό εκτελείτε μια επίδειξη.

Τρεις τρόποι για να φτάσετε το 475GB

Ένας κοινός pool unified memory. Ένα Mac Studio M3 Ultra 512GB χωρά το build 4-bit με περιθώριο για context, και είναι το μηχάνημα που το κάνει αυτό σήμερα. Το build 2-bit στο 245GB χωρά απευθείας σε μηχάνημα 256GB.² 512GB είναι το ανώτατο όριο στο Apple silicon είτε έτσι είτε αλλιώς: το νεότερο M5 Ultra φτάνει στο ίδιο νούμερο, και η 512GB διαμόρφωσή του δεν αναμένεται μέχρι τα τέλη Οκτωβρίου.⁵

Μια κάρτα plus system RAM. Επειδή το μοντέλο είναι sparse, η διαίρεση λειτουργεί καλά. Τα attention layers πηγαίνουν στην κάρτα γραφικών, τα expert layers μένουν στη system memory, και η σημαία llama.cpp --n-cpu-moe ορίζει πού πέφτει η γραμμή. Η Unsloth αναφέρει το GLM-5.2 να τρέχει με μία κάρτα 24GB και 256GB RAM με αυτόν τον τρόπο.² Να περιμένετε να είναι πιο αργό από το unified memory, επειδή τα expert weights τότε διαβάζονται με την ταχύτητα του DDR5 σας και όχι της VRAM σας. Εδώ είναι που μια πλατφόρμα workstation οκτώ καναλιών δικαιολογεί την τιμή της.

Όλα στη VRAM. Τέσσερις κάρτες RTX PRO 6000 δίνουν 384GB, αρκετά για ένα build 3-bit. Η HelixML μέτρησε το μικρότερο GLM-5.3-Flash σε τέσσερις κάρτες RTX PRO 6000 Server Edition στα 63.7 output tokens per second για ένα μεμονωμένο request και 82.8 με speculative decoding, και χρειάστηκε ένα pinned experimental build του SGLang για να το πετύχει.³ Η υποστήριξη day-zero για μια νέα αρχιτεκτονική σπάνια είναι ολοκληρωμένη.

Διαβάστε την άδεια πριν σχεδιάσετε ένα προϊόν πάνω σε αυτήν

Εδώ το GLM-5.3 διαφέρει από τη δική του οικογένεια, και σχεδόν κανείς δεν το αναφέρει. Το GLM-5.2 κυκλοφόρησε με MIT.⁶ Το GLM-5.3 δεν είναι: τα weights του φέρουν μια ειδική άδεια με το όνομα του μοντέλου, η οποία απαιτεί από operators model-as-a-service με πάνω από $10B σε έσοδα trailing twelve-month να περάσουν από security review της Z.ai πριν από την εμπορική χρήση.⁴ Το GLM-5.3-Flash, που κυκλοφόρησε στις 26 Αυγούστου, είναι ξανά MIT.⁴

Για τις περισσότερες επιχειρήσεις το όριο εσόδων είναι ακαδημαϊκό. Το ζητούμενο είναι ότι η άδεια τώρα διαφέρει από έκδοση σε έκδοση μέσα στην ίδια οικογένεια, οπότε ελέγξτε την ανά μοντέλο και όχι ανά προμηθευτή.

Ρυθμίσεις που έχουν σημασία

Χρησιμοποιήστε θερμοκρασία 1.0 με top-p στο 0.95 για συνηθισμένη εργασία, και top-p στο 1.0 για μακρές agentic εκτελέσεις.¹

Μία παγίδα είναι ειδική για αυτή την έκδοση. Το GLM-5.3 χρησιμοποιεί από προεπιλογή μέγιστη συλλογιστική και η σκέψη δεν μπορεί να απενεργοποιηθεί, κάτι που δεν ισχύει για το 5.2. Περάστε --chat-template-kwargs '{"reasoning_effort":"low"}' για να το μειώσετε, και ορίστε clear_thinking σε true για συνομιλίες πολλών γύρων, ώστε η παλιά συλλογιστική να μην συσσωρεύεται στο context.¹ Αν αφεθεί μόνο του σε μια μακρά συνομιλία, θα καταναλώσει τόσο τα tokens σας όσο και το περιθώριο μνήμης σας.

Για τα μαθηματικά πίσω από όλα αυτά, δείτε πόση μνήμη χρειάζεστε για να τρέξετε ένα open model τοπικά. Για την πιο πρόσφατη έκδοση στην ίδια κατηγορία βάρους, δείτε DeepSeek V4.1-Flash. Ένα μηχάνημα 512GB σήμερα σημαίνει ένα Mac Studio M3 Ultra 512GB ή ένα Neox Metal με 512GB από registered ECC memory.