Vietinė DI

How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.

12 Sep 2026

DeepSeek V4.1-Flash techninės įrangos reikalavimai

510GB svorių, 8B aktyvus. 2-bit MLX versija veikia Mac Studio M3 Ultra 256GB ir pasiekia 9.5 žetonų per sekundę — bet ne per llama.cpp, Ollama ar LM Studio.
12 Sep 2026

GLM-5.3 aparatinės įrangos reikalavimai

744B svoriai, 40B aktyvūs kiekvienam tokenui ir 4 bitų versija, kuriai reikia 475GB. Ko reikia stipriausiam atviram modeliui, ką prarandate kiekviename kvantavimo lygyje ir kurie kompiuteriai jį pasiekia.
12 Sep 2026

Kiek atminties reikia norint vietoje paleisti atvirą modelį

Visi parametrai lemia atminties poreikį. Aktyvieji parametrai lemia greitį. Talpos skalė atviriems 2026 modeliams, nuo 17GB iki 1.6TB.