Lokalna AI
How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.
-
12 Sep 2026
DeepSeek V4.1-Flash hardverski zahtjevi
510GB težine, 8B aktivno. 2-bitni MLX build radi na Mac Studio M3 Ultra 256GB pri 9.5 tokena u sekundi — ali ne kroz llama.cpp, Ollama ni LM Studio.
-
12 Sep 2026
GLM-5.3 hardverski zahtjevi
744B težine, 40B aktivnih po tokenu, i 4-bit izdanje kojem treba 475GB. Što najjači otvoreni model zahtijeva, čega se odričete pri svakoj kvantizaciji i koje ga mašine mogu pokrenuti.
-
12 Sep 2026
Koliko memorije je potrebno za lokalno pokretanje otvorenog modela
Ukupni parametri određuju potrošnju memorije. Aktivni parametri određuju brzinu. Ljestvica kapaciteta za otvorene modele od 2026, od 17GB do 1.6TB.