GLM-5.3 laitteistovaatimukset

GLM-5.3 on vahvin avoimen painon malli, jonka voit ladata tänään. Z.ai julkaisi sen 14 elokuuta 2026 ja julkaisi painot kaksi viikkoa myöhemmin, 28 elokuuta, kun tietoturvan koventaminen oli valmis.⁴ Se raportoi alan parhaat tulokset Terminal-Benchissä 3.0 ja nostaa tuon pistemäärän 4.6%:sta 28.3%:iin omaa edeltäjäänsä vastaan.⁴

Se on myös 744B-parametrinen malli, jonka käyttökelpoinen build vaatii 475GB muistia. Tuo luku, ei vertailutesti, ratkaisee, voitko ajaa sen.

• Parametrit744Bnoin 40B aktiivista
• Konteksti1Mtokenia
• LisenssiGLM-5.3mukautettu, ei MIT
• Muisti 4-bitissä475GB94.3% tarkkuus

Sama malli kuin 5.2, opetettu lisää

GLM-5.3 käyttää samaa perusmallia kuin GLM-5.2. Kaikki parannukset tulevat lisäjatko-opetuksesta, ei uudesta esikoulutuskierroksesta.¹ Arkkitehtuuri, parametrien määrä ja muistitarve ovat siis samat kuin 5.2:lla, mikä on kätevää: kaikki, mitä opit 5.2:n ajamisesta, pätee yhä, ja kaikki koneet, jotka ajoivat 5.2, ajavat 5.3.

Kuten kaikki tämän vuoden huippuluokan avoimet mallit, se on mixture of experts. Siinä on 744B parametria ja se reitittää niistä noin 40B jokaista tokenia kohden. Pieni aktiivinen luku on syy siihen, että yksittäinen kone voi generoida kohtuullisella nopeudella. Suuri kokonaisluku on syy siihen, että koneen täytyy olla vakavasti otettava — reititin valitsee eri ekspertejä joka tokenille, joten kaikki pysyvät muistissa.

Mitä se vaatii

Unsloth julkaisee täydellisen kvantisointiporrastuksen GLM-5.3:lle, ja poikkeuksellisesti he julkaisevat mitatun tarkkuusluvun jokaisen kohdalla. Tuo toinen sarake tekee valinnan mahdolliseksi.

Mitä kukin kvantisointi uhraa

Kvantisointi tallentaa jokaisen painon vähempiin bitteihin. Säästö on todellinen, ja niin on myös kustannus, eikä kustannus ole lineaarinen. Lue porras alhaalta ylöspäin, niin ensimmäiset askeleet ovat lähes ilmaisia; lue se ylhäältä alas, niin viimeiset askeleet ovat rajuja.

Siirtyminen 4-bitistä 2-bittiin säästää 230GB ja maksaa lähes kuusitoista pistettä tarkkuutta. Siirtyminen 5-bitistä 4-bittiin säästää 95GB ja maksaa puolitoista. Jos budjettisi yltää 512GB:iin, 4-bitti on kohta, jossa malli käyttäytyy vielä kuin itse. Sen alle olet ajamassa demoa.

Kolme tapaa yltää 475GB:hin

Yksi yhtenäisen muistin allas. Mac Studio M3 Ultra 512GB pitää 4-bittisen buildin väljyydellä kontekstia varten, ja se on kone, joka tekee tämän tänään. 2-bittinen build kohdassa 245GB sopii 256GB koneeseen suoraan.² 512GB on katto Applen siruilla kummassakin tapauksessa: uudempi M5 Ultra yltää samaan lukuun, ja sen 512GB kokoonpano tulee vasta lokakuun lopulla.⁵

Kortti plus järjestelmä-RAM. Koska malli on harva, jako toimii hyvin. Huomio-kerrokset sijoitetaan näytönohjaimelle, eksperttikerrokset pysyvät järjestelmämuistissa, ja llama.cpp:n --n-cpu-moe-lippu määrittää, mihin raja vedetään. Unsloth raportoi GLM-5.2:n toimivan tällä tavalla yhdellä 24GB-kortilla ja 256GB muistilla.² Odota, että se on hitaampi kuin yhtenäinen muisti, koska eksperttipainot luetaan silloin nopeudella, jonka tarjoaa DDR5, ei VRAM. Tässä kahdeksankanavainen workstation-alusta ansaitsee hintansa.

Kaikki VRAMissa. Neljä RTX PRO 6000 -korttia antaa 384GB, mikä riittää 3-bittiseen buildiin. HelixML mittasi pienemmän GLM-5.3-Flashin neljällä RTX PRO 6000 Server Edition -kortilla 63.7 lähtötokenia sekunnissa yhdelle pyynnölle ja 82.8 spekulatiivisella dekoodauksella, ja se tarvitsi tähän lukitun kokeellisen SGLang-buildin.³ Uuden arkkitehtuurin day-zero-tuki on harvoin valmis.

Lue lisenssi ennen kuin suunnittelet sen varaan tuotteen

Tässä GLM-5.3 eroaa omasta perheestään, eikä melkein kukaan mainitse sitä. GLM-5.2 julkaistiin MIT-lisenssillä.⁶ GLM-5.3 ei ole: sen painoihin liittyy mallin mukaan nimetty räätälöity lisenssi, joka edellyttää, että model-as-a-service-operaattorit, joiden viimeisten kahdentoista kuukauden liikevaihto ylittää $10B, käyvät läpi Z.ai:n tietoturva-arvioinnin ennen kaupallista käyttöä.⁴ GLM-5.3-Flash, julkaistu 26 elokuuta, on taas MIT.⁴

Useimmille yrityksille liikevaihtoraja on akateeminen asia. Olennaista on, että lisenssi vaihtelee nyt julkaisukohtaisesti saman tuoteperheen sisällä, joten tarkista se mallikohtaisesti, älä toimittajakohtaisesti.

Asetukset, joilla on merkitystä

Käytä lämpötilaa 1.0 ja top-p-arvoa 0.95 tavalliseen työhön sekä top-p-arvoa 1.0 pitkiin agenttiajokertoihin.¹

Yksi ansa koskee nimenomaan tätä julkaisua. GLM-5.3 käyttää oletuksena enimmäispäättelyä, eikä ajattelua voi kytkeä pois, mikä ei pidä paikkaansa 5.2:n kohdalla. Anna --chat-template-kwargs '{"reasoning_effort":"low"}', jotta se saadaan pienemmäksi, ja aseta clear_thinking arvoksi true monivuorokeskusteluissa, jotta vanha päättely ei kerry kontekstiin.¹ Yksin jätettynä pitkään keskusteluun se kuluttaa sekä tokenisi että muistivarantosi.

Kaikkien näiden laskentojen taustalla olevasta matematiikasta katso kuinka paljon muistia tarvitset avoimen mallin ajamiseen paikallisesti. Uusimmasta samassa painoluokassa olevasta julkaisusta katso DeepSeek V4.1-Flash. 512GB kone tänään tarkoittaa Mac Studio M3 Ultra 512GB tai Neox Metal, jossa on 512GB rekisteröityä ECC-muistia.