Wymagania sprzętowe DeepSeek V4.1-Flash

DeepSeek wydał V4.1-Flash w dniu 10 września 2026 na licencji MIT, z oknem kontekstowym o długości jednego miliona tokenów i natywnym rozumieniem obrazu.¹ Pierwsze pytanie, które zadał sobie każdy, brzmiało, czy będzie działać na maszynie 128GB, ponieważ poprzedni model o nazwie Flash działał.

Nie będzie. V4.1-Flash jest dostarczany jako 510GB z FP8 wagami w 48 plikach, a etap kompresji został już zużyty.² Ale dziś działa lokalnie, na sprzęcie, który można kupić: społecznościowa wersja 2-bit została zmierzona na 9.46 tokenów na sekundę na Mac Studio 256GB Ultra o M3.⁵

• Parametry552B8B in, 16B out
• Kontekst1Mtokenów
• LicencjaMITbrak progu przychodów
• Wagi510GBFP8, 48 plików

Flash opisuje szybkość, a nie rozmiar

V4.1-Flash ma 552B-parametrowy szkielet i aktywuje 8B parametrów podczas czytania Twojego promptu oraz 16B podczas pisania odpowiedzi.¹ Te niewielkie aktywne wartości to właśnie to, do czego odnosi się "Flash". Określają, jak szybko generuje i ile kosztuje token w API. Nie określają kosztu pamięci.

Istnieje drugi, mniej oczywisty powód, dla którego plik jest tak duży. Model zawiera dwuwarstwowy engram, osadzenia n-gramowe z hashowaniem, których same tablice wyszukiwania odpowiadają za około 196B parametrów — około czterdzieści procent checkpointu.⁵ To pamięć, którą trzymasz i rzadko przeliczasz, i dlatego pobierany plik jest większy, niż sugeruje liczba parametrów szkieletu.

Poprzedni model łatwo wpadał w pułapkę. DeepSeek-V4-Flash-0731 miał łącznie 284B przy 13B aktywnych i działał bezstratnie w 169GB.³ V4.1-Flash ma mniej więcej dwukrotnie większy backbone pod tą samą nazwą produktu.

Kwantisacja została już zużyta

Zwykle model 552B byłby zaproszeniem do kwantyzacji. DeepSeek zrobił to zanim pobrałeś pliki: repozytorium jest dostarczane w FP8, a warstwy ekspertów są już skompresowane.² Pozostaje tam mniej do wyjęcia niż zwykle oczekiwane cięcie cztery do jednego dla 4-bitowego GGUF, dlatego poniższe community buildy nie spadają tak nisko, jak można by się spodziewać.

Co naprawdę to uruchamia

To jest część, o której nie mówi żaden arkusz specyfikacji. Nowy model wymaga zapisania swojej architektury w silniku, z którego korzystasz, i V4.1-Flash wprowadził nową: causal encoder-decoder, czterdzieści warstw ułożonych jako dwudziestowarstwowy causal encoder, po którym następuje dwudziestowarstwowy decoder.¹ Architektura deepseek_v41 nie istnieje w żadnym głównym runtime — ani w Transformers, ani w mlx-lm, ani w mlx-vlm, ani w llama.cpp.⁴

To wyklucza łatwe ścieżki. Ollama, LM Studio i wszystko inne oparte na llama.cpp nie może tego załadować i nie ma użytecznego GGUF. Nie wyklucza to jednak uruchomienia tego modelu.

Na Apple silicon port PipeNetwork dostarcza brakującą architekturę, a community konwersje MLX dostarczają wagi.⁴ Na serwerach NVIDIA i AMD SGLang publikuje dla niego obrazy kontenerów deweloperskich — lmsysorg/sglang:dev-dsv41 oraz dev-dsv41-mi35x — przed oznaczonym wydaniem. vLLM ma otwarte pull requesty i, według stanu na 10 September, żaden nie został scalony.⁶

To więc wczesne oprogramowanie na ustabilizowanym sprzęcie. Spodziewaj się klonowania repozytorium zamiast wpisania jednej komendy instalacyjnej i spodziewaj się, że w ciągu najbliższych kilku tygodni będzie to łatwiejsze, a nie trudniejsze.

Która maszyna

Wariant 2-bitowy to ten, od którego warto zacząć, i to naprawdę dobra wiadomość. Zajmuje 238.8GB na dysku i w testach osiągnął szczytowo 166.69 GiB pamięci procesu, co mieści go z zapasem w Mac Studio M3 Ultra 256GB. Jego autor zmierzył 9.46 tokenów na sekundę przy greedy decoding na dokładnie tej maszynie.⁵ To nie jest szybko, a jak na 552B model odpowiadający przy biurku — to imponujące.

Mieszany build 4/8-bitowy wymaga 427GB w pamięci rezydentnej, a to Mac Studio M3 Ultra 512GB zapewnia, choć ledwo. Tu liczy się zapas: zostaw miejsce na kontekst, ponieważ długi prompt przy tej długości kontekstu nie jest darmowy. Build engram-6 chce mniej więcej 477GB i maszyny klasy terabajtowej, ponieważ leniwy forward pass może chwilowo wymagać około dwa razy tyle, ile wynosi rozmiar builda.⁴

Powyżej 512GB w jednej obudowie są dwie uczciwe drogi. Klasteryzacja przez Thunderbolt 5 łączy pamięć zunifikowaną na kilku Macach — macOS 26.2 dodał RDMA przez Thunderbolt 5, a exo 1.0 to obsługuje, więc połączone maszyny Mac Studio M3 Ultra 512GB sumują się do całości.⁷ Albo budujesz jedną stację roboczą o odpowiedniej pojemności: Neox Metal na platformie Threadripper PRO obsługuje osiem kanałów registered ECC memory, a tak właśnie dochodzi się do terabajta w jednej maszynie; ta sama platforma obsługuje też karty RTX PRO 6000, których wymaga ścieżka SGLang.

Ustawienia

DeepSeek zaleca temperaturę 1.0, top-p na poziomie 0.95 lub 1.0 oraz co najmniej 256K dla max_tokens.¹ Effort rozumowania to ciągle regulowana liczba całkowita od 1 do 100, a nie przełącznik low/high/max używany przez inne modele, więc warto go dostroić zamiast zostawiać wartość domyślną.

Jedna liczba jest wyjątkowo dobra. V4.1-Flash używa 890 bajtów na token globalnej pamięci podręcznej KV, co utrzymuje pełny kontekst o milionie tokenów poniżej jednego gigabajta.¹ W większości modeli tej wielkości to kontekst wymusza kolejną rozbudowę pamięci. Tutaj są to wagi, i tylko wagi.

Aby zobaczyć obliczenia stojące za tym wszystkim, zobacz ile pamięci potrzebujesz, aby uruchomić model open lokalnie. Aby zobaczyć model aktualnie na szczycie otwartych rankingów, zobacz wymagania sprzętowe GLM-5.3.