Локален AI
How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.
-
12 Sep 2026
Системни изисквания за DeepSeek V4.1-Flash
510GB от теглата, 8B активен. MLX билд с 2 бита работи на Mac Studio M3 Ultra 256GB при 9.5 токена в секунда — но не чрез llama.cpp, Ollama или LM Studio.
-
12 Sep 2026
Хардуерни изисквания за GLM-5.3
744B тегла, 40B активни на токен, и build с 4 бита, който иска 475GB. Какво изисква най-силният open model, какво губите при всяка quantisation и кои машини го достигат.
-
12 Sep 2026
Колко памет е нужна за локално изпълнение на отворен модел
Общият брой параметри определя сметката за паметта. Активните параметри определят скоростта. Стълбица на капацитета за отворените модели на 2026, от 17GB до 1.6TB.
