로컬 AI
How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.
-
12 Sep 2026
DeepSeek V4.1-Flash 하드웨어 요구 사항
510GB의 가중치, 8B 활성. 2-bit MLX 빌드는 Mac Studio M3 Ultra 256GB에서 초당 9.5 토큰으로 실행되지만, llama.cpp, Ollama 또는 LM Studio를 통해서는 실행되지 않습니다.
-
12 Sep 2026
GLM-5.3 하드웨어 요구 사항
744B 가중치, 40B 토큰당 활성화되며, 4-bit 빌드는 475GB를 요구합니다. 가장 강력한 open model에 필요한 사양, 각 quantisation에서 포기하는 것, 그리고 이를 구동할 수 있는 기기들을 설명합니다.
-
12 Sep 2026
오픈 모델을 로컬에서 실행하는 데 필요한 메모리 용량
총 파라미터는 메모리 사용량을 결정합니다. 활성 파라미터는 속도를 결정합니다. 2026의 오픈 모델을 위한 용량 계단식 표로, 17GB부터 1.6TB까지입니다.