Requisitos de hardware de DeepSeek V4.1-Flash

510GB de pesos, 8B activo. Una compilación MLX de 2 bits se ejecuta en un Mac Studio M3 Ultra 256GB a 9.5 tokens por segundo, pero no mediante llama.cpp, Ollama ni LM Studio.

Terminal showing DeepSeek V4.1-Flash at 510GB across 48 safetensors files, llama.cpp failing with unknown model architecture deepseek_v41, and the MLX 2-bit build at 166.69 GiB peak memory and 9.46 tokens per second

DeepSeek lanzó V4.1-Flash el 10 septiembre 2026 bajo la licencia MIT, con una ventana de contexto de un millón de tokens y comprensión nativa de imágenes.1 La primera pregunta que todo el mundo hizo fue si funcionaría en una máquina 128GB, porque el último modelo llamado Flash sí lo hacía.

No lo hará. V4.1-Flash se distribuye como 510GB de pesos FP8 en 48 archivos, y el paso de compresión ya se ha consumido.2 Pero sí funciona localmente hoy, en hardware que puedes comprar: una versión comunitaria de 2 bits se ha medido en 9.46 tokens por segundo en un Mac Studio 256GB Ultra M3.5

  • Parámetros552B8B de entrada, 16B de salida
  • Contexto1Mtokens
  • LicenciaMITsin desencadenante de ingresos
  • Pesos510GBFP8, 48 archivos

Flash describe la velocidad, no el tamaño

V4.1-Flash tiene una columna vertebral de 552B parámetros y activa 8B parámetros mientras lee tu prompt y 16B mientras escribe la respuesta.1 Esas pequeñas cifras activas son a lo que se refiere "Flash". Determinan lo rápido que genera y cuánto cuesta por token en una API. No determinan el coste de memoria.

Hay una segunda razón, menos obvia, por la que el archivo es tan grande. El modelo lleva un engrama de dos capas, un embedding de n-gramas con hash cuyas tablas de búsqueda por sí solas representan aproximadamente 196B parámetros — alrededor de cuarenta por ciento del checkpoint.5 Esa es memoria que mantienes y con la que rara vez computas, y es por eso que la descarga es más grande de lo que sugiere el recuento de la backbone.

El modelo anterior hacía fácil caer en la trampa. DeepSeek-V4-Flash-0731 era 284B en total con 13B activos, y funcionaba sin pérdidas en 169GB.3 V4.1-Flash lleva aproximadamente el doble de la base bajo el mismo nombre de producto.

La cuantización ya se ha consumido

Normalmente, un modelo 552B sería una invitación a cuantizar. DeepSeek ya hizo eso antes de que lo descargaras: el repositorio se publica en FP8 con las capas expertas ya comprimidas.2 Queda menos por extraer que el recorte habitual de cuatro a uno que la gente espera de un GGUF de 4 bits, por eso las compilaciones de la comunidad de abajo no caen tanto como podrías suponer.

Lo que realmente lo ejecuta

Esta es la parte que ninguna hoja de especificaciones te dice. Un modelo nuevo necesita que su arquitectura esté escrita en el motor que uses, y V4.1-Flash introdujo una nueva: un codificador-decodificador causal, cuarenta capas dispuestas como un codificador causal de veinte capas seguido de un decodificador de veinte capas.1 La arquitectura deepseek_v41 no existe en ningún runtime generalista: ni Transformers, ni mlx-lm, ni mlx-vlm, ni llama.cpp.4

Eso descarta las rutas fáciles. Ollama, LM Studio y cualquier otra cosa basada en llama.cpp no pueden cargarlo, y no existe un GGUF utilizable. Eso no descarta ejecutarlo.

En Apple silicon, el puerto PipeNetwork proporciona la arquitectura que falta y las conversiones comunitarias de MLX suministran los pesos.4 En servidores NVIDIA y AMD, SGLang publica imágenes de contenedor de desarrollo para ello — lmsysorg/sglang:dev-dsv41 y dev-dsv41-mi35x — antes de una versión etiquetada. vLLM tiene pull requests abiertos y, a septiembre de 10, ninguno se ha fusionado.6

Así que se trata de software temprano sobre hardware ya consolidado. Espera clonar un repositorio en lugar de escribir un solo comando de instalación, y espera que eso sea más fácil durante las próximas semanas, no más difícil.

Lo que necesita cada compilación de DeepSeek V4.1-FlashMemoria en GB — memoria unificada en un Mac, o RAM del sistema más VRAM en un servidor. Septiembre 2026.
  1. MLX 2 bits167GB
  2. MLX 4/8 bits427GB
  3. MLX engram-6477GB
  4. FP8 tal como se distribuye510GB

Las cifras de MLX son los requisitos publicados para las conversiones de la comunidad: memoria máxima de proceso medida para la compilación de 2 bits, memoria residente declarada para las compilaciones mixtas de 4/8 bits.45 La cifra de FP8 es el total del repositorio en Hugging Face.2

Las tres compilaciones comunitarias de MLX. Todas necesitan el puerto de PipeNetwork, no mlx-lm.
Compilación En disco Memoria
2-bit MTP 238.8GB 167GB
Mixto 4/8-bit 427.6GB 427GB
4/8-bit engRAM-6 476.8GB 477GB

¿Qué máquina?

La compilación de 2 bits es la que conviene empezar, y de verdad es una buena noticia. Ocupa 238.8GB en disco y alcanzó un pico de 166.69 GiB de memoria de proceso en las pruebas, lo que la sitúa dentro de un Mac Studio M3 Ultra 256GB con margen de sobra. Su autor midió 9.46 tokens por segundo con decodificación greedy en exactamente esa máquina.5 Eso no es rápido, y para un modelo de 552B que responde desde un escritorio es notable.

La compilación mixta de 4/8 bits pide 427GB residentes, que un Mac Studio M3 Ultra 512GB soporta, justo. Que sea justo importa aquí: deja margen para el contexto, porque un prompt largo con esta longitud de contexto no sale gratis. La compilación engRAM-6 quiere aproximadamente 477GB y una máquina de clase terabyte, ya que un pase hacia delante perezoso puede necesitar transitoriamente cerca del doble del tamaño de la compilación.4

Por encima de 512GB en una sola caja hay dos rutas honestas. La agrupación por Thunderbolt 5 reúne memoria unificada en varios Mac: macOS 26.2 añadió RDMA sobre Thunderbolt 5 y exo 1.0 lo admite, así que las máquinas Mac Studio M3 Ultra 512GB enlazadas suman.7 O bien construyes una sola estación de trabajo con la capacidad: un Neox Metal en la plataforma Threadripper PRO admite ocho canales de memoria ECC registrada, que es como alcanzas un terabyte en una sola máquina, y la misma plataforma admite las tarjetas RTX PRO 6000 que quiere la ruta SGLang.

Ajustes

DeepSeek recomienda una temperatura de 1.0 con top-p en 0.95 o 1.0, y al menos 256K de max_tokens.1 El esfuerzo de razonamiento es un entero continuamente ajustable de 1 a 100, en lugar del interruptor bajo/alto/máximo que usan otros modelos, así que conviene ajustarlo en vez de dejarlo en un valor predeterminado.

Un número es inusualmente bueno. V4.1-Flash utiliza 890 bytes por token de caché KV global, lo que mantiene un contexto completo de un millón de tokens por debajo de un gigabyte.1 En la mayoría de los modelos de este tamaño, el contexto es lo que obliga a la siguiente actualización de memoria. Aquí son los pesos, y solo los pesos.

Para el cálculo detrás de todo esto, consulta cuánta memoria necesitas para ejecutar un modelo abierto localmente. Para el modelo que actualmente está en lo más alto de las clasificaciones abiertas, consulta requisitos de hardware de GLM-5.3.

Fuentes

  1. Ficha del modelo DeepSeek-V4.1-Flash, Hugging Face — 552B backbone, 8B activo en prefill y 16B en decode, encoder-decoder causal, licencia MIT, 890 bytes por token de KV global, ajustes de muestreo y de esfuerzo de razonamiento.
  2. Listado de archivos de DeepSeek-V4.1-Flash, Hugging Face — 510GB entre 48 fragmentos safetensors en FP8.
  3. Unsloth, DeepSeek-V4: How to Run Locally — parámetros de V4-Flash-0731, tamaños de cuantización y requisitos de memoria.
  4. PipeNetwork, DeepSeek-V4.1-Flash MLX mixed 4/8-bit and the engram-6 build — 427.6GB y 476.8GB en disco, memoria residente, y la nota de que deepseek_v41 no existe en ningún runtime, con el puerto en PipeNetwork/deepseek-v41-mlx.
  5. Vontra, DeepSeek-V4.1-Flash MLX 2-bit MTP — 238.80GB en disco, 166.69 GiB de memoria máxima del proceso, 9.46 tokens por segundo medidos en un M3 Ultra Mac Studio, y el tamaño de la tabla engram.
  6. Modem Guides, "DeepSeek V4.1-Flash Hardware Requirements", 10 septiembre 2026 — estudio del soporte de motores, incluidas las imágenes de desarrollo de SGLang y el estado de las solicitudes de extracción de vLLM.
  7. RunAIHome, "Mac Studio Cluster: RDMA Over Thunderbolt 5" — macOS 26.2 RDMA over Thunderbolt 5, el backend JACCL y la agrupación de exo 1.0.