GLM-5.3 하드웨어 요구 사항

GLM-5.3은 오늘 다운로드할 수 있는 가장 강력한 오픈 웨이트 모델입니다. Z.ai는 2026년 8월 14일에 이를 출시했고, 안전성 강화 작업이 완료된 뒤 2주 후인 8월 28일에 가중치를 공개했습니다.⁴ Terminal-Bench 3.0에서 최상위 수준의 결과를 보고하며, 자체 이전 세대 대비 그 점수를 4.6%에서 28.3%로 끌어올렸습니다.⁴

또한 744B-파라미터 모델이며, 사용 가능한 빌드에는 475GB의 메모리가 필요합니다. 그 수치는 벤치마크가 아니라, 실제로 실행할 수 있는지 여부를 결정합니다.

• 파라미터744B약 40B 활성
• 컨텍스트1M토큰
• 라이선스GLM-5.3커스텀, MIT 아님
• 4비트에서의 메모리475GB94.3% 정확도

5.2와 같은 모델이며, 추가 학습을 더한 버전입니다

GLM-5.3은 GLM-5.2와 기본 모델을 공유합니다. 모든 향상은 새로운 사전 학습이 아니라 추가 후학습에서 비롯됩니다.¹ 따라서 아키텍처, 파라미터 수, 메모리 요구량은 5.2와 동일합니다. 이는 매우 편리합니다. 5.2를 실행하는 방법을 알고 있다면 그대로 적용할 수 있고, 5.2를 돌리던 어떤 머신도 5.3를 실행할 수 있습니다.

올해 나온 모든 최첨단 오픈 모델과 마찬가지로, 이것도 Mixture of Experts입니다. 총 744B개의 파라미터를 보유하며, 토큰당 그중 약 40B개를 라우팅합니다. 활성 파라미터 수가 적기 때문에 단일 머신으로도 합리적인 속도로 생성할 수 있습니다. 총 파라미터 수가 큰 이유는 그 머신이 상당히 강력해야 하기 때문입니다. 라우터가 토큰마다 서로 다른 expert를 선택하므로, 모든 expert가 계속 상주해야 합니다.

필요 사항

Unsloth는 GLM-5.3에 대한 전체 양자화 단계표를 공개하며, 드물게도 각 단계 옆에 측정된 정확도 수치를 함께 제공합니다. 그 두 번째 열이 있어야 선택이 가능합니다.

각 양자화가 포기하는 것

양자화는 각 가중치를 더 적은 비트로 저장합니다. 절감 효과는 실제이며 비용도 실제이고, 그 비용은 선형적이지 않습니다. 아래에서 위로 읽으면 처음 몇 단계는 거의 공짜지만, 위에서 아래로 읽으면 마지막 몇 단계는 매우 가혹합니다.

4-비트에서 2-비트로 가면 230GB를 절약하고 정확도는 거의 16포인트 떨어집니다. 5-비트에서 4-비트로 가면 95GB를 절약하고 1.5포인트를 잃습니다. 예산이 512GB까지 닿는다면, 4-비트가 모델이 여전히 자기답게 동작하는 지점입니다. 그 아래에서는 데모를 돌리고 있는 것입니다.

475GB에 도달하는 세 가지 방법

통합 메모리 한 묶음. Mac Studio M3 Ultra 512GB는 컨텍스트를 위한 여유분까지 포함해 4-비트 빌드를 수용하며, 현재 이 작업을 할 수 있는 머신입니다. 2-비트 빌드는 245GB에 256GB 머신으로 직접 들어갑니다.² 512GB는 어느 경우든 Apple silicon의 상한입니다. 더 최신인 M5 Ultra도 같은 수치에서 멈추며, 512GB 구성은 10월 말까지는 나오지 않습니다.⁵

그래픽 카드와 시스템 RAM. 모델이 희소하기 때문에 이 분할 방식이 잘 맞습니다. 어텐션 레이어는 그래픽 카드에 두고, expert 레이어는 시스템 메모리에 두며, llama.cpp의 --n-cpu-moe 플래그가 경계를 정합니다. Unsloth는 GLM-5.2가 256GB의 RAM으로 단일 24GB 카드에서 이렇게 실행되는 것을 보고했습니다.² 통합 메모리보다 느릴 것으로 예상하세요. expert 가중치가 VRAM 속도가 아니라 DDR5 속도로 읽히기 때문입니다. 이럴 때 8채널 워크스테이션 플랫폼의 값어치를 하게 됩니다.

모두 VRAM에 담는 방식입니다. RTX PRO 6000 카드 4장은 384GB를 제공하며, 3-비트 빌드에 충분합니다. HelixML은 더 작은 GLM-5.3-Flash를 RTX PRO 6000 Server Edition 카드 4장으로 단일 요청당 초당 63.7개 출력 토큰, speculative decoding 사용 시 82.8개로 측정했으며, 이를 위해 고정된 실험용 SGLang 빌드가 필요했습니다.³ 새로운 아키텍처에 대한 day-zero 지원은 대개 아직 완성되지 않습니다.

이 모델로 제품을 계획하기 전에 라이선스를 읽으세요

여기서 GLM-5.3는 자기 계열과 달리, 거의 아무도 언급하지 않는 차이가 있습니다. GLM-5.2는 MIT 라이선스로 출시되었습니다.⁶ GLM-5.3는 그렇지 않습니다. 이 모델의 가중치는 모델 이름을 딴 맞춤형 라이선스를 따르며, 지난 12개월 매출이 $10B를 넘는 model-as-a-service 운영자는 상업적 사용 전에 Z.ai 보안 검토를 받아야 합니다.⁴ 8월 26일에 출시된 GLM-5.3-Flash는 다시 MIT입니다.⁴

대부분의 기업에게는 매출 기준이 실질적으로 중요하지 않습니다. 핵심은 이제 동일한 제품군 안에서도 릴리스마다 라이선스가 달라진다는 점이므로, 벤더별이 아니라 모델별로 확인해야 한다는 것입니다.

중요한 설정

일반 작업에는 temperature를 1.0, top-p를 0.95로 사용하고, 긴 agentic 실행에는 top-p를 1.0로 사용하세요.¹

이번 릴리스에는 특정한 함정이 하나 있습니다. GLM-5.3는 기본적으로 최대 reasoning을 사용하며 thinking은 끌 수 없고, 이는 5.2의 경우와는 다릅니다. 이를 낮추려면 --chat-template-kwargs '{"reasoning_effort":"low"}'를 전달하고, 다중 턴 대화에서는 clear_thinking을 true로 설정하여 이전 reasoning이 context에 누적되지 않게 하세요.¹ 긴 대화에서 그대로 두면 토큰과 메모리 여유분을 모두 소모하게 됩니다.

이 모든 수치의 계산 근거는 open model을 로컬에서 실행하는 데 필요한 메모리량을 참고하세요. 같은 weight class의 최신 릴리스는 DeepSeek V4.1-Flash를 보세요. 오늘날 512GB 머신이라 하면 Mac Studio M3 Ultra 512GB 또는 Neox Metal에 512GB의 registered ECC memory가 탑재된 구성을 뜻합니다.