Requisitos de hardware de GLM-5.3

GLM-5.3 es el modelo open-weight más potente que puedes descargar hoy. Z.ai lo lanzó el 14 de agosto 2026 y publicó los pesos dos semanas después, el 28 de agosto, una vez finalizado el refuerzo de seguridad.⁴ Obtiene resultados de vanguardia en Terminal-Bench 3.0 y eleva esa puntuación de 4.6% a 28.3% frente a su propio predecesor.⁴

También es un modelo de 744B parámetros cuya compilación utilizable quiere 475GB de memoria. Esa cifra, no el benchmark, es la que decide si puedes ejecutarlo.

• Parámetros744Bunos 40B activos
• Contexto1Mtokens
• LicenciaGLM-5.3propia, no MIT
• Memoria a 4 bits475GB94.3% precisión

El mismo modelo que 5.2, entrenado aún más

GLM-5.3 comparte su modelo base con GLM-5.2. Todas las mejoras proceden de entrenamiento posterior adicional, en lugar de una nueva ejecución de preentrenamiento.¹ La arquitectura, el número de parámetros y la factura de memoria son por tanto idénticos a los de 5.2, lo que resulta cómodo: todo lo que aprendiste sobre cómo ejecutar 5.2 sigue aplicándose, y cualquier máquina que ejecutara 5.2 ejecuta 5.3.

Como todo modelo abierto de frontera de este año, es una mezcla de expertos. Tiene 744B parámetros y enruta aproximadamente 40B de ellos por token. La pequeña cifra de activos es la razón por la que una sola máquina puede generar a una velocidad razonable. La gran cifra total es la razón por la que esa máquina tiene que ser seria: el enrutador elige distintos expertos para cada token, así que todos permanecen residentes.

Qué necesita

Unsloth publica una escalera completa de cuantización para GLM-5.3, y, de forma inusual, publica una cifra de precisión medida junto a cada una. Esa segunda columna es la que hace posible la elección.

Qué sacrifica cada cuantización

La cuantización almacena cada peso en menos bits. El ahorro es real y el coste también, y el coste no es lineal. Lea la escalera desde abajo y los primeros peldaños son casi gratis; léala desde arriba y los últimos peldaños son brutales.

Pasar de 4 bits a 2 bits ahorra 230GB y cuesta casi dieciséis puntos de precisión. Pasar de 5 bits a 4 bits ahorra 95GB y cuesta uno y medio. Si tu presupuesto alcanza 512GB, 4 bits es donde el modelo sigue comportándose como él mismo. Por debajo de eso estás ejecutando una demostración.

Tres formas de llegar a 475GB

Un único pool de memoria unificada. Un Mac Studio M3 Ultra 512GB aloja la compilación de 4 bits con margen para el contexto, y es la máquina que lo hace hoy. La compilación de 2 bits a 245GB cabe directamente en una máquina 256GB.² 512GB es el techo en Apple silicon en cualquier caso: el nuevo M5 Ultra llega al mismo valor máximo, y su configuración 512GB no estará disponible hasta finales de octubre.⁵

Una tarjeta más la RAM del sistema. Como el modelo es esparso, la división funciona bien. Las capas de atención van en la tarjeta gráfica, las capas de expertos permanecen en la memoria del sistema, y el indicador --n-cpu-moe de llama.cpp establece dónde cae la línea. Unsloth informa de GLM-5.2 ejecutándose de esta manera en una sola tarjeta 24GB con 256GB de RAM.² Espera que sea más lento que la memoria unificada, porque entonces los pesos de los expertos se leen a la velocidad de tu DDR5 en lugar de la de tu VRAM. Aquí es donde una plataforma de estación de trabajo de ocho canales se gana su precio.

Todo en VRAM. Cuatro tarjetas RTX PRO 6000 proporcionan 384GB, suficiente para una compilación de 3 bits. HelixML midió el menor GLM-5.3-Flash en cuatro tarjetas RTX PRO 6000 Server Edition a 63.7 tokens de salida por segundo para una sola solicitud y 82.8 con decodificación especulativa, y necesitó una compilación experimental fijada de SGLang para lograrlo.³ La compatibilidad desde el día cero con una nueva arquitectura rara vez está terminada.

Lee la licencia antes de planificar un producto sobre ella

Aquí es donde GLM-5.3 difiere de su propia familia, y casi nadie lo menciona. GLM-5.2 se publicó bajo MIT.⁶ GLM-5.3 no lo es: sus pesos llevan una licencia a medida con el nombre del modelo, que exige que los operadores de model-as-a-service por encima de $10B de ingresos acumulados en los últimos doce meses pasen una revisión de seguridad de Z.ai antes del uso comercial.⁴ GLM-5.3-Flash, publicado en 26 agosto, vuelve a ser MIT.⁴

Para la mayoría de las empresas, el umbral de ingresos es académico. La cuestión es que ahora la licencia varía versión a versión dentro de una misma familia, así que compruébala por modelo y no por proveedor.

Ajustes que importan

Usa una temperatura de 1.0 con top-p en 0.95 para el trabajo habitual, y top-p en 1.0 para ejecuciones agentivas largas.¹

Una trampa es específica de esta versión. GLM-5.3 usa razonamiento máximo por defecto y no se puede desactivar el pensamiento, lo cual no ocurre con 5.2. Pasa --chat-template-kwargs '{"reasoning_effort":"low"}' para reducirlo, y establece clear_thinking en true para conversaciones de varios turnos, de modo que el razonamiento antiguo no se acumule en el contexto.¹ Si se deja solo en una conversación larga, consumirá tanto tus tokens como tu margen de memoria.

Para la aritmética detrás de todo esto, consulta cuánta memoria necesitas para ejecutar un modelo abierto localmente. Para la versión más reciente en la misma clase de peso, consulta DeepSeek V4.1-Flash. Hoy en día, una máquina 512GB significa un Mac Studio M3 Ultra 512GB o un Neox Metal con 512GB de memoria ECC registrada.