DeepSeek V4.1-Flash Hardware-Anforderungen

DeepSeek veröffentlichte V4.1-Flash am 10 September 2026 unter der MIT-Lizenz, mit einem Kontextfenster von einer Million Token und nativer Bildverarbeitung.¹ Die erste Frage, die sich alle stellten, war, ob es auf einer 128GB-Maschine laufen würde, weil das letzte Modell namens Flash das tat.

Das wird es nicht. V4.1-Flash wird als 510GB von FP8 Gewichten auf 48 Dateien ausgeliefert, und der Komprimierungsschritt ist bereits verbraucht.² Aber es läuft heute lokal, auf Hardware, die man kaufen kann: Eine Community-2-Bit-Build wurde mit 9.46 Token pro Sekunde auf einem 256GB Mac Studio M3 Ultra gemessen.⁵

• Parameter552B8B rein, 16B raus
• Kontext1MToken
• LizenzMITkein Umsatzschwellenwert
• Gewichte510GBFP8, 48 Dateien

Flash beschreibt die Geschwindigkeit, nicht die Größe

V4.1-Flash enthält ein 552B-Parameter-Backbone und aktiviert 8B Parameter, während es Ihren Prompt liest, und 16B, während es die Antwort schreibt.¹ Diese kleinen aktiven Werte sind es, worauf sich "Flash" bezieht. Sie legen fest, wie schnell es generiert und was es pro Token über eine API kostet. Sie legen nicht die Speicherkosten fest.

Es gibt einen zweiten, weniger offensichtlichen Grund, warum die Datei so groß ist. Das Modell trägt ein zweischichtiges Engramm, ein gehashtes n-gramm-Embedding, dessen Lookup-Tabellen allein rund 196B Parameter ausmachen — etwa vierzig Prozent des Checkpoints.⁵ Das ist Speicher, den man vorhält und nur selten damit rechnet, und deshalb ist der Download größer, als die Backbone-Zahl vermuten lässt.

Das vorherige Modell machte die Falle leicht, hineinzutappen. DeepSeek-V4-Flash-0731 war insgesamt 284B mit 13B aktiv und lief verlustfrei in 169GB.³ V4.1-Flash trägt ungefähr doppelt so viel Backbone unter demselben Produktnamen.

Die Quantisierung ist bereits verbraucht

Normalerweise wäre ein 552B-Modell eine Einladung zur Quantisierung. DeepSeek hat das getan, bevor Sie es heruntergeladen haben: Das Repository wird in FP8 ausgeliefert, mit den Experten-Layern bereits komprimiert.² Es bleibt weniger herauszuholen, als der übliche Vier-zu-eins-Schnitt, den Leute von einem 4-Bit-GGUF erwarten, weshalb die Community-Builds unten nicht so weit fallen, wie man vermuten würde.

Was es tatsächlich zum Laufen bringt

Das ist der Teil, den kein Datenblatt verrät. Ein neues Modell muss seine Architektur in die jeweilige Engine geschrieben bekommen, die Sie verwenden, und V4.1-Flash führte eine neue ein: einen kausalen Encoder-Decoder, vierzig Schichten, angeordnet als zwanzigschichtiger kausaler Encoder, gefolgt von einem zwanzigschichtigen Decoder.¹ Die Architektur deepseek_v41 existiert in keiner gängigen Laufzeitumgebung — weder in Transformers, noch in mlx-lm, noch in mlx-vlm, noch in llama.cpp.⁴

Das schließt die einfachen Wege aus. Ollama, LM Studio und alles andere, das auf llama.cpp basiert, können es nicht laden, und es gibt kein brauchbares GGUF. Das schließt das Ausführen aber nicht aus.

Auf Apple Silicon liefert der PipeNetwork-Port die fehlende Architektur, und Community-MLX-Konvertierungen liefern die Gewichte.⁴ Auf NVIDIA- und AMD-Servern veröffentlicht SGLang Entwicklungs-Container-Images dafür — lmsysorg/sglang:dev-dsv41 und dev-dsv41-mi35x — vor einer getaggten Veröffentlichung. vLLM hat offene Pull Requests und, Stand 10 September, keinen davon gemerged.⁶

Das ist also frühe Software auf ausgereifter Hardware. Rechnen Sie damit, ein Repository zu klonen, statt einen einzigen Installationsbefehl einzugeben, und rechnen Sie damit, dass das in den nächsten Wochen eher einfacher als schwieriger wird.

Welcher Rechner

Die 2-Bit-Build ist diejenige, mit der man beginnen sollte, und das ist wirklich eine gute Nachricht. Sie ist 238.8GB auf Datenträger und erreichte in Tests einen Spitzenwert von 166.69 GiB Prozessspeicher, was sie mit ausreichend Reserve in einen Mac Studio M3 Ultra 256GB bringt. Ihr Autor maß 9.46 Token pro Sekunde mit greedy decoding auf genau diesem Rechner.⁵ Das ist nicht schnell, und für ein 552B-Modell, das vom Schreibtisch aus antwortet, ist es bemerkenswert.

Die gemischte 4/8-Bit-Build verlangt 427GB resident, was ein Mac Studio M3 Ultra 512GB locker hat, aber knapp. Knapp ist hier wichtig: Lassen Sie Spielraum für den Kontext, denn ein langer Prompt bei dieser Kontextlänge ist nicht gratis. Der Engram-6-Build will ungefähr 477GB und eine Maschine der Terabyte-Klasse, da ein fauler Forward Pass vorübergehend etwa das Doppelte der Build-Größe benötigen kann.⁴

Oberhalb von 512GB in einer Box gibt es zwei ehrliche Wege. Thunderbolt 5-Clustering bündelt Unified Memory über mehrere Macs hinweg — macOS 26.2 hat RDMA über Thunderbolt 5 hinzugefügt, und exo 1.0 unterstützt es, sodass verknüpfte Mac Studio M3 Ultra 512GB Maschinen sich addieren.⁷ Oder Sie bauen eine Workstation mit der Kapazität: Ein Neox Metal auf der Threadripper-PRO-Plattform nimmt acht Kanäle registrierten ECC-Speichers auf, und so erreicht man ein Terabyte in einer einzigen Maschine, und dieselbe Plattform trägt die RTX PRO 6000 Karten, die der SGLang-Pfad will.

Einstellungen

DeepSeek empfiehlt eine Temperatur von 1.0 mit top-p bei 0.95 oder 1.0, und mindestens 256K von max_tokens.¹ Der Reasoning-Effort ist ein kontinuierlich steuerbarer Integer von 1 bis 100 statt des Low/High/Max-Schalters, den andere Modelle verwenden, daher lohnt es sich, ihn zu tunen, statt ihn auf dem Standardwert zu belassen.

Eine Zahl ist ungewöhnlich gut. V4.1-Flash verwendet 890 Bytes pro Token des globalen KV-Cache, wodurch ein vollständiger Kontext von einer Million Token unter einem Gigabyte bleibt.¹ Bei den meisten Modellen dieser Größe ist es der Kontext, der das nächste Speicher-Upgrade erzwingt. Hier sind es die Gewichte, und nur die Gewichte.

Für die Mathematik dahinter siehe how much memory you need to run an open model locally. Für das Modell, das derzeit an der Spitze der offenen Leaderboards steht, siehe GLM-5.3 hardware requirements.