Hardwarové požadavky pro DeepSeek V4.1-Flash

DeepSeek vydal V4.1-Flash dne 10 září 2026 pod licencí MIT, s kontextovým oknem o jednom milionu tokenů a nativním porozuměním obrazu.¹ První otázka, kterou si všichni položili, byla, zda poběží na stroji 128GB, protože poslední model nazvaný Flash ano.

Neběží. V4.1-Flash se dodává jako 510GB z FP8 vah rozložených do 48 souborů a krok komprese už byl vyčerpán.² Ale dnes běží lokálně na hardwaru, který si můžete koupit: komunitní sestavení s 2 bity bylo naměřeno na 9.46 tokenů za sekundu na Mac Studio 256GB Ultra s M3.⁵

• Parametry552B8B in, 16B out
• Kontext1Mtokenů
• LicenceMITbez spouštěče příjmů
• Váhy510GBFP8, 48 souborů

Flash popisuje rychlost, ne velikost

V4.1-Flash obsahuje páteřní síť s 552B parametry a aktivuje 8B parametrů, když čte váš výzvu, a 16B, když píše odpověď.¹ Tato malá čísla aktivních parametrů jsou to, na co odkazuje „Flash“. Určují, jak rychle generuje a kolik to stojí za token v API. Neurčují náklady na paměť.

Existuje druhý, méně zřejmý důvod, proč je soubor tak velký. Model nese dvouvrstvý engram, hashované n-gramové embeddingy, jejichž vyhledávací tabulky samy o sobě tvoří přibližně 196B parametrů — asi čtyřicet procent checkpointu.⁵ To je paměť, kterou držíte a jen zřídka s ní počítáte, a proto je stahování větší, než naznačuje počet parametrů páteřní sítě.

Předchozí model snadno naváděl do pasti. DeepSeek-V4-Flash-0731 byl 284B celkově s 13B aktivními a běžel bezeztrátově v 169GB.³ V4.1-Flash nese zhruba dvojnásobek backbone pod stejným názvem produktu.

Quantizace už byla vyčerpána

Normálně by model 552B byl pozvánkou k kvantizaci. DeepSeek to udělal ještě předtím, než jste si ho stáhli: repozitář se dodává v FP8 s již zkomprimovanými expertními vrstvami.² Zbývá z něj vytáhnout méně, než bývá obvyklý řez čtyři ku jedné, který lidé od 4bitového GGUF očekávají, a proto komunitní sestavení níže neklesají tak hluboko, jak byste tipovali.

Co ho vlastně spouští

Tohle je ta část, kterou žádný technický list neřekne. Nový model potřebuje, aby byla jeho architektura zapsána do jakéhokoli enginu, který používáte, a V4.1-Flash představil novou: causální encoder-decoder, čtyřicet vrstev uspořádaných jako dvacetivrstvý causální encoder následovaný dvacetivrstvým dekodérem.¹ Architektura deepseek_v41 neexistuje v žádném hlavním runtime — ani v Transformers, ani v mlx-lm, ani v mlx-vlm, ani v llama.cpp.⁴

To vylučuje snadné cesty. Ollama, LM Studio ani cokoli dalšího postaveného na llama.cpp to nenačtou a neexistuje žádný použitelný GGUF. To však nevylučuje spuštění.

Na Apple silicon poskytuje port PipeNetwork chybějící architekturu a komunitní konverze MLX poskytují váhy.⁴ Na serverech NVIDIA a AMD zveřejňuje SGLang pro něj vývojové container image — lmsysorg/sglang:dev-dsv41 a dev-dsv41-mi35x — ještě před označeným vydáním. vLLM má otevřené pull requesty a k 10 září nebyl žádný sloučen.⁶

Takže jde o raný software na ustáleném hardwaru. Počítejte spíš s klonováním repozitáře než s napsáním jednoho instalačního příkazu a s tím, že to bude v příštích několika týdnech jednodušší, ne složitější.

Který stroj

2bitové sestavení je to, s nímž máte začít, a je to skutečně dobrá zpráva. Na disku zabírá 238.8GB a při testování dosáhlo maxima 166.69 GiB paměti procesu, takže se vejde do Mac Studio M3 Ultra 256GB s rezervou. Jeho autor na přesně tomto stroji naměřil 9.46 tokenů za sekundu při greedy dekódování.⁵ To není rychlé, a u 552B modelu odpovídajícího od stolu je to pozoruhodné.

Smíšené 4/8bitové sestavení vyžaduje 427GB resident, což Mac Studio M3 Ultra 512GB zvládne, ale těsně. Těsně tady záleží: nechte si rezervu pro kontext, protože dlouhý prompt při této délce kontextu není zdarma. Sestavení engram-6 chce zhruba 477GB a stroj třídy terabyte, protože líný forward pass může dočasně potřebovat asi dvojnásobek velikosti sestavení.⁴

Nad 512GB v jednom boxu existují dvě poctivé cesty. Clustering přes Thunderbolt 5 sdružuje unifikovanou paměť napříč několika Macy — macOS 26.2 přidal RDMA přes Thunderbolt 5 a exo 1.0 to podporuje, takže propojené Mac Studio M3 Ultra 512GB stroje se sčítají.⁷ Nebo postavíte jednu pracovní stanici s potřebnou kapacitou: Neox Metal na platformě Threadripper PRO používá osm kanálů registrované ECC paměti, což je způsob, jak se v jedné mašině dostat na terabyte, a stejná platforma pojme karty RTX PRO 6000, které chce cesta SGLang.

Nastavení

DeepSeek doporučují teplotu 1.0 s top-p na 0.95 nebo 1.0 a alespoň 256K z max_tokens.¹ Míra reasoning effort je průběžně nastavitelná celé číslo od 1 do 100, nikoli přepínač low/high/max, který používají jiné modely, takže se vyplatí ji ladit místo ponechání na výchozí hodnotě.

Jedno číslo je neobvykle dobré. V4.1-Flash používá 890 bajtů na token globální KV cache, takže se plný miliontokenový kontext vejde pod gigabyte.¹ U většiny modelů této velikosti je právě kontext to, co si vynutí další upgrade paměti. Tady jsou to váhy, a pouze váhy.

Pro aritmetiku za tím vším viz kolik paměti potřebujete k lokálnímu spuštění otevřeného modelu. Pro model, který je nyní na špičce otevřených leaderboardů, viz hardwarové požadavky GLM-5.3.