DeepSeek V4.1-Flash maskinvarekrav

DeepSeek lanserte V4.1-Flash den 10. september 2026 under MIT-lisensen, med et kontekstvindu på én million tokens og innebygd bildeforståelse.¹ Det første alle spurte om, var om den ville kjøre på en 128GB maskin, fordi den siste modellen som het Flash, gjorde det.

Det vil den ikke. V4.1-Flash leveres som 510GB av FP8 vekter fordelt på 48 filer, og komprimeringstrinnet er allerede brukt opp.² Men den kjører lokalt i dag, på maskinvare du kan kjøpe: en community 2-bit-bygg er målt til 9.46 tokens per sekund på en 256GB Mac Studio M3 Ultra.⁵

• Parametere552B8B inn, 16B ut
• Kontekst1Mtokens
• LisensMITingen omsetningsterskel
• Vekter510GBFP8, 48 filer

Flash beskriver hastigheten, ikke størrelsen

V4.1-Flash har en 552B-parameter backbone og aktiverer 8B parametere mens den leser prompten din og 16B mens den skriver svaret.¹ Disse små aktive tallene er det «Flash» viser til. De bestemmer hvor raskt den genererer og hva den koster per token på et API. De bestemmer ikke minnekostnaden.

Det finnes en annen, mindre åpenbar grunn til at filen er så stor. Modellen bærer på en to-lags engram, en hashed n-gram-embedding hvis oppslagstabeller alene står for omtrent 196B parametere — omtrent førti prosent av sjekkpunktet.⁵ Det er minne du holder og sjelden beregner med, og det er grunnen til at nedlastingen er større enn backbone-tallet antyder.

Den forrige modellen gjorde det lett å gå i fella. DeepSeek-V4-Flash-0731 var 284B totalt med 13B aktive, og kjørte tapsfritt i 169GB.³ V4.1-Flash har omtrent dobbelt så mye av ryggraden under samme produktnavn.

Kvantiseringen er allerede brukt opp

Normalt ville en 552B-modell være en invitasjon til å kvantisere. DeepSeek gjorde det før du lastet den ned: repositoryet leveres i FP8 med ekspertlagene allerede komprimert.² Det er mindre igjen å hente ut enn det vanlige fire-til-en-kuttet folk forventer fra en 4-bit GGUF, og derfor faller ikke community-byggene nedenfor like mye som du skulle tro.

Hva som faktisk kjører den

Dette er delen intet spesifikasjonsark forteller deg. En ny modell trenger at arkitekturen skrives inn i den motoren du bruker, og V4.1-Flash introduserte en ny en: en kausal encoder-decoder, førti lag arrangert som en tjue-lags kausal encoder etterfulgt av en tjue-lags decoder.¹ Arkitekturen deepseek_v41 finnes ikke i noen mainstream runtime — verken Transformers, mlx-lm, mlx-vlm eller llama.cpp.⁴

Det utelukker de enkle veiene. Ollama, LM Studio og alt annet bygget på llama.cpp kan ikke laste den, og det finnes ingen brukbar GGUF. Det utelukker ikke at den kan kjøres.

På Apple silicon leverer PipeNetwork-porten den manglende arkitekturen, og community MLX-konverteringer leverer vektene.⁴ På NVIDIA- og AMD-servere publiserer SGLang utviklingscontainerbilder for den — lmsysorg/sglang:dev-dsv41 og dev-dsv41-mi35x — før en tagget utgivelse. vLLM har åpne pull requests, og per 10 september er ingen slått sammen.⁶

Så dette er tidlig programvare på etablert maskinvare. Forvent å klone et repository i stedet for å skrive én installasjonskommando, og forvent at det blir enklere i løpet av de neste ukene heller enn vanskeligere.

Hvilken maskin

2-bit-bygget er det du bør starte med, og det er virkelig gode nyheter. Det er 238.8GB på disk og toppet på 166.69 GiB prosessminne i testing, noe som plasserer det innenfor en Mac Studio M3 Ultra 256GB med plass til overs. Forfatteren målte 9.46 tokens per sekund med greedy decoding på nøyaktig den maskinen.⁵ Det er ikke raskt, og for en 552B-modell som svarer fra et skrivebord er det bemerkelsesverdig.

Det blandede 4/8-bit-bygget krever 427GB resident, som en Mac Studio M3 Ultra 512GB rommer, akkurat. Stramt spiller en rolle her: la det være slingringsmonn for konteksten, fordi en lang prompt ved denne kontekstlengden ikke er gratis. Engram-6-bygget vil ha omtrent 477GB og en terabyte-klasse maskin, siden en lat forward pass midlertidig kan kreve omtrent dobbelt så mye som byggstørrelsen.⁴

Over 512GB i én boks finnes det to ærlige veier. Thunderbolt 5-klustring samler delt minne på tvers av flere Mac-er — macOS 26.2 la til RDMA over Thunderbolt 5 og exo 1.0 støtter det, så koblede Mac Studio M3 Ultra 512GB-maskiner summerer seg.⁷ Eller du bygger én arbeidsstasjon med kapasiteten: en Neox Metal på Threadripper PRO-plattformen tar åtte kanaler med registered ECC-minne, som er slik du når en terabyte i én enkelt maskin, og samme plattform rommer RTX PRO 6000-kortene som SGLang-ruten vil ha.

Innstillinger

DeepSeek anbefaler en temperatur på 1.0 med top-p på 0.95 eller 1.0, og minst 256K av max_tokens.¹ Reasoning effort er et kontinuerlig justerbart heltall fra 1 til 100, i stedet for low/high/max-bryteren andre modeller bruker, så det er verdt å finjustere heller enn å la det stå på standard.

Én tall er uvanlig god. V4.1-Flash bruker 890 byte per token av global KV-buffer, noe som holder en full million-token-kontekst under en gigabyte.¹ På de fleste modeller i denne størrelsen er det konteksten som utløser neste minneoppgradering. Her er det vektene, og bare vektene.

For regnestykket bak alt dette, se hvor mye minne du trenger for å kjøre en åpen modell lokalt. For modellen som for øyeblikket ligger øverst på de åpne topplistene, se GLM-5.3 maskinvarekrav.