Exigences matérielles de DeepSeek V4.1-Flash

510GB de poids, 8B actif. Une build MLX 2-bit fonctionne sur un Mac Studio M3 Ultra 256GB à 9.5 tokens par seconde — mais pas via llama.cpp, Ollama ou LM Studio.

Terminal showing DeepSeek V4.1-Flash at 510GB across 48 safetensors files, llama.cpp failing with unknown model architecture deepseek_v41, and the MLX 2-bit build at 166.69 GiB peak memory and 9.46 tokens per second

DeepSeek a publié V4.1-Flash le 10 septembre 2026 sous licence MIT, avec une fenêtre de contexte d’un million de jetons et une compréhension native des images.1 La première question que tout le monde s’est posée était de savoir s’il fonctionnerait sur une machine 128GB, car le dernier modèle appelé Flash le faisait.

Ce ne sera pas le cas. V4.1-Flash est distribué sous forme de 510GB de poids FP8 répartis dans 48 fichiers, et l’étape de compression a déjà été consommée.2 Mais il s’exécute bien localement aujourd’hui, sur du matériel que vous pouvez acheter : une version communautaire en 2 bits a été mesurée à 9.46 jetons par seconde sur un Mac Studio 256GB Ultra à M3.5

  • Paramètres552B8B en entrée, 16B en sortie
  • Contexte1Mjetons
  • LicenceMITaucun déclencheur de revenus
  • Poids510GBFP8, 48 fichiers

Flash décrit la vitesse, pas la taille

V4.1-Flash possède un squelette à 552B paramètres et active 8B paramètres pendant qu’il lit votre prompt et 16B pendant qu’il rédige la réponse.1 Ces petites valeurs actives sont ce que « Flash » désigne. Elles déterminent sa vitesse de génération et son coût par jeton sur une API. Elles ne déterminent pas la charge mémoire.

Il existe une deuxième raison, moins évidente, pour laquelle le fichier est si volumineux. Le modèle intègre un engramme à deux couches, un embedding n-gramme haché dont les tables de recherche représentent à elles seules environ 196B paramètres — soit environ quarante pour cent du point de contrôle.5 C’est de la mémoire que l’on conserve et que l’on calcule rarement, et c’est pourquoi le téléchargement est plus volumineux que ne le laisse penser le nombre de paramètres du squelette.

Le modèle précédent facilitait le piège. DeepSeek-V4-Flash-0731 pesait 284B au total avec 13B actives, et s’exécutait sans perte en 169GB.3 V4.1-Flash comporte à peu près le double de l’ossature sous le même nom de produit.

La quantification a déjà été consommée

En temps normal, un modèle 552B serait une invitation à quantifier. DeepSeek l’a fait avant même que vous ne le téléchargiez : le dépôt est fourni en FP8 avec les couches expertes déjà compressées.2 Il reste moins à retirer que la réduction habituelle de quatre pour un que l’on attend d’un GGUF à 4 bits, ce qui explique pourquoi les versions communautaires ci-dessous ne chutent pas autant que vous pourriez le penser.

Ce qui l’exécute réellement

C’est la partie qu’aucune fiche technique ne vous indique. Un nouveau modèle doit avoir son architecture intégrée dans le moteur que vous utilisez, et V4.1-Flash en a introduit une nouvelle : un encodeur-décodeur causal, quarante couches organisées en un encodeur causal à vingt couches suivi d’un décodeur à vingt couches.1 L’architecture deepseek_v41 n’existe dans aucun runtime grand public — ni Transformers, ni mlx-lm, ni mlx-vlm, ni llama.cpp.4

Cela exclut les solutions faciles. Ollama, LM Studio et tout autre outil basé sur llama.cpp ne peuvent pas le charger, et il n’existe pas de GGUF exploitable. Cela n’exclut pas de l’exécuter.

Sur Apple silicon, le port PipeNetwork fournit l’architecture manquante et les conversions MLX communautaires fournissent les poids.4 Sur les serveurs NVIDIA et AMD, SGLang publie des images de conteneur de développement pour celui-ci — lmsysorg/sglang:dev-dsv41 et dev-dsv41-mi35x — avant une version balisée. vLLM a des pull requests ouvertes et, en 10 septembre, aucune n’a été fusionnée.6

Il s’agit donc d’un logiciel encore jeune sur un matériel établi. Attendez-vous à cloner un dépôt plutôt qu’à saisir une simple commande d’installation, et à ce que cela devienne plus facile au cours des prochaines semaines plutôt que plus difficile.

Ce dont chaque build DeepSeek V4.1-Flash a besoinMémoire en GB — mémoire unifiée sur un Mac, ou RAM système plus VRAM sur un serveur. Septembre 2026.
  1. MLX 2-bits167GB
  2. MLX 4/8-bits427GB
  3. MLX engram-6477GB
  4. FP8 tel que fourni510GB

Les chiffres MLX correspondent aux exigences publiées pour les conversions communautaires : mémoire de processus maximale mesurée pour le build à 2 bits, mémoire résidente indiquée pour les builds mixtes 4/8 bits.45 La valeur FP8 est le total du dépôt sur Hugging Face.2

Les trois builds MLX communautaires. Ils ont tous besoin du port PipeNetwork, pas de mlx-lm.
Build Sur le disque Mémoire
2-bit MTP 238.8GB 167GB
Mixte 4/8-bit 427.6GB 427GB
4/8-bit engram-6 476.8GB 477GB

Quelle machine

Le build 2-bit est celui par lequel commencer, et c’est une excellente nouvelle. Il occupe 238.8GB sur le disque et a culminé à 166.69 GiB de mémoire processeur lors des tests, ce qui le place dans un Mac Studio M3 Ultra 256GB avec de la marge. Son auteur a mesuré 9.46 tokens par seconde avec un décodage greedy sur cette machine exactement.5 Ce n’est pas rapide, et pour un modèle 552B répondant depuis un bureau, c’est remarquable.

Le build mixte 4/8-bit demande 427GB en mémoire résidente, ce qu’un Mac Studio M3 Ultra 512GB peut contenir, de justesse. La marge est importante ici : laissez de la place pour le contexte, car un long prompt à cette longueur de contexte n’est pas gratuit. Le build engram-6 demande environ 477GB et une machine de classe téraoctet, car un forward pass paresseux peut temporairement nécessiter environ deux fois la taille du build.4

Au-delà de 512GB dans une seule machine, il existe deux voies honnêtes. Le clustering Thunderbolt 5 mutualise la mémoire unifiée sur plusieurs Mac — macOS 26.2 a ajouté le RDMA via Thunderbolt 5 et exo 1.0 le prend en charge, donc des machines Mac Studio M3 Ultra 512GB reliées s’additionnent.7 Ou bien vous construisez une seule station de travail avec la capacité nécessaire : un Neox Metal sur la plateforme Threadripper PRO accepte huit canaux de mémoire ECC enregistrée, ce qui permet d’atteindre un téraoctet dans une seule machine, et la même plateforme prend en charge les cartes RTX PRO 6000 que la voie SGLang exige.

Paramètres

DeepSeek recommande une température de 1.0 avec un top-p à 0.95 ou 1.0, et au moins 256K de max_tokens.1 L’effort de raisonnement est un entier à réglage continu allant de 1 à 100 plutôt qu’un commutateur low/high/max comme celui utilisé par d’autres modèles, il vaut donc mieux l’ajuster plutôt que de le laisser sur une valeur par défaut.

Un chiffre est exceptionnellement bon. V4.1-Flash utilise 890 octets par token de cache KV global, ce qui maintient un contexte complet d’un million de tokens sous un gigaoctet.1 Sur la plupart des modèles de cette taille, c’est le contexte qui impose la prochaine augmentation de mémoire. Ici, ce sont les poids, et uniquement les poids.

Pour l’arithmétique derrière tout cela, voir combien de mémoire il vous faut pour faire tourner un modèle ouvert en local. Pour le modèle actuellement en tête des classements ouverts, voir les exigences matérielles de GLM-5.3.

Sources

  1. DeepSeek-V4.1-Flash model card, Hugging Face — 552B backbone, 8B active on prefill and 16B on decode, causal encoder-decoder, MIT licence, 890 bytes per token global KV, sampling and reasoning-effort settings.
  2. DeepSeek-V4.1-Flash file listing, Hugging Face — 510GB across 48 safetensors shards in FP8.
  3. Unsloth, DeepSeek-V4: How to Run Locally — V4-Flash-0731 parameters, quantisation sizes and memory requirements.
  4. PipeNetwork, DeepSeek-V4.1-Flash MLX mixed 4/8-bit and le build engram-6 — 427.6GB and 476.8GB sur le disque, mémoire résidente, et la note que deepseek_v41 n’existe dans aucun runtime, avec le port à PipeNetwork/deepseek-v41-mlx.
  5. Vontra, DeepSeek-V4.1-Flash MLX 2-bit MTP — 238.80GB sur le disque, 166.69 GiB de mémoire processeur de pointe, 9.46 tokens par seconde mesurés sur un Mac Studio Ultra M3, et la taille du tableau engram.
  6. Modem Guides, "DeepSeek V4.1-Flash Hardware Requirements", 10 September 2026 — survey of engine support, including the SGLang development images and the state of the vLLM pull requests.
  7. RunAIHome, "Mac Studio Cluster: RDMA Over Thunderbolt 5" — macOS 26.2 RDMA over Thunderbolt 5, the JACCL backend and exo 1.0 clustering.