Lokalna sztuczna inteligencja
How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.
-
12 Sep 2026
Wymagania sprzętowe DeepSeek V4.1-Flash
510GB wagi, 8B aktywne. 2-bitowa kompilacja MLX działa na Mac Studio M3 Ultra 256GB z prędkością 9.5 tokenów na sekundę — ale nie przez llama.cpp, Ollama ani LM Studio.
-
12 Sep 2026
Wymagania sprzętowe GLM-5.3
744B wag, 40B aktywnych na token, oraz kompilacja 4-bit, która wymaga 475GB. Czego potrzebuje najmocniejszy model otwarty, z czego rezygnujesz przy każdej kwantyzacji i które maszyny są w stanie to obsłużyć.
-
12 Sep 2026
Ile pamięci potrzeba do uruchomienia lokalnie modelu open-source
Łączna liczba parametrów określa zużycie pamięci. Aktywne parametry określają szybkość. Drabina pojemności dla otwartych modeli 2026, od 17GB do 1.6TB.