DeepSeek V4.1-Flash のハードウェア要件

DeepSeek は V4.1-Flash を 2026年9月10日 で MIT ライセンスのもと公開し、100 万トークンのコンテキストウィンドウとネイティブな画像理解を備えています。¹ 最初に誰もが尋ねたのは、以前 Flash と呼ばれた前モデルが動いたように、これが 128GB マシンで動くのかということでした。

動きません。V4.1-Flash は 510GB の FP8 重みとして 48 個のファイルに分かれて提供されており、圧縮の工程はすでに使い切られています。² しかし、今日すでにローカル実行は可能です。購入可能なハードウェア上で、コミュニティの 2-bit ビルドは、9.46 トークン/秒を 256GB Mac Studio M3 Ultra 上で記録しています。⁵

• パラメータ552B8B in, 16B out
• コンテキスト1Mtokens
• ライセンスMITrevenue トリガーなし
• 重み510GBFP8、48 個のファイル

Flash はサイズではなく速度を表します

V4.1-Flash は 552B パラメータのバックボーンを保持し、プロンプトを読み込む間は 8B パラメータを、返答を書き出す間は 16B パラメータを有効化します。¹ これらの少ないアクティブ数こそが、"Flash" の意味するところです。生成速度と API 上での 1 トークンあたりのコストを左右します。メモリ代は決めません。

ファイルがこれほど大きいのには、もう一つ、あまり目立たない理由があります。モデルには 2 層の engram、つまりハッシュ化された n-gram 埋め込みが搭載されており、その検索テーブルだけでおよそ 196B パラメータ、つまりチェックポイント全体の約 40% を占めます。⁵ その分は保持しているメモリで、ほとんど計算には使わず、そのためダウンロードサイズはバックボーンの数だけから想像されるより大きくなります。

前モデルでは、この罠に陥りやすかったのです。DeepSeek-V4-Flash-0731 は、284B 合計で 13B が有効な状態でも 169GB に収まり、ロスレスで動作しました。³ V4.1-Flash は、同じ製品名の下でおよそ 2 倍のバックボーンを抱えています。

量子化はすでに使い切られています

通常なら 552B モデルは量子化の好材料です。DeepSeek はダウンロード前にそれを済ませており、リポジトリは専門家レイヤーをすでに圧縮した状態の FP8 で提供されています。² そのため、通常の 4-bit GGUF で期待される 4 対 1 の削減よりも、取り出せる余地は少なく、下のコミュニティビルドも想像するほどは小さくなりません。

実際に動かすもの

これは仕様書には書かれていない部分です。新しいモデルを動かすには、使用するエンジンのどれかにそのアーキテクチャを書き込む必要がありますが、V4.1-Flash は新しいものを導入しました。それは causal encoder-decoder、つまり 20 層の causal encoder の後に 20 層の decoder を並べた全 40 層の構成です。¹ deepseek_v41 アーキテクチャは、Transformers にも、mlx-lm にも、mlx-vlm にも、llama.cpp にも、主要なランタイムには存在しません。⁴

そのため、手軽な方法は使えません。Ollama、LM Studio、その他 llama.cpp ベースのものは読み込めず、実用的な GGUF もありません。だからといって、実行できないわけではありません。

Apple silicon では、PipeNetwork の移植版が不足しているアーキテクチャを提供し、コミュニティの MLX 変換が重みを提供します。⁴ NVIDIA と AMD のサーバーでは、SGLang が開発用コンテナイメージを公開しています。lmsysorg/sglang:dev-dsv41 と dev-dsv41-mi35x — タグ付きリリースに先立って。vLLM には公開 PR があり、9月10日 時点では、いずれもマージされていません。⁶

つまり、これは安定したハードウェア上での初期ソフトウェアです。1 つのインストールコマンドを打つのではなくリポジトリを clone することになると考えてください。そして、それは今後数週間で難しくなるのではなく、むしろ簡単になっていくはずです。

どのマシン

2ビット版は、まず最初に試すべきものです。これは本当に朗報です。ディスク使用量は238.8GBで、テストではプロセスメモリのピークが166.69 GiBでした。つまり、余裕をもって Mac Studio M3 Ultra 256GB に収まります。作者は、まさにそのマシンで greedy decoding を使い、1秒あたり9.46トークンを測定しました。⁵ 速いとは言えませんが、デスクで応答する 552Bモデルとしては驚くべき性能です。

Mixed 4/8ビット版は常駐メモリ427GBを要求し、Mac Studio M3 Ultra 512GB なら、ぎりぎり収まります。ここでは余裕が重要です。長いプロンプトは、このコンテキスト長では無料ではないため、コンテキスト用の余白を残してください。engram-6ビルドにはおよそ477GBとテラバイト級のマシンが必要です。なぜなら、lazy forward pass では一時的にビルドサイズの約2倍が必要になることがあるためです。⁴

1台で512GBを超える場合、正直な方法は2つあります。Thunderbolt 5クラスタリングは複数の Mac 間でユニファイドメモリをプールします。macOS 26.2で Thunderbolt 5 による RDMA が追加され、exo 1.0がこれをサポートしているため、接続された Mac Studio M3 Ultra 512GB 台の合計を活かせます。⁷ あるいは、容量のある1台のワークステーションを組む方法です。Threadripper PRO プラットフォーム上の Neox Metal は8チャネルの registered ECC メモリに対応しており、これで1台にテラバイトを実現できます。同じプラットフォームなら、SGLang の経路が必要とする RTX PRO 6000 カードも搭載できます。

設定

DeepSeek は、temperature を 1.0、top-p を 0.95または1.0、そして 256K以上の max_tokensに設定することを推奨しています。¹推論努力は、他のモデルが使用する low/high/max スイッチではなく、1から100までの連続的に調整可能な整数であるため、既定値のままにせず調整する価値があります。

1つの数値は非常に優れています。V4.1-Flash は、グローバル KV キャッシュでトークンごとに 890 バイトを使用するため、100万トークンのコンテキスト全体でも 1 ギガバイト未満に収まります。¹ このサイズの多くのモデルでは、次のメモリアップグレードを迫るのはコンテキストです。ここでボトルネックになるのは重みだけで、重みのみです。

この計算の背景については、ローカルでオープンモデルを動かすのに必要なメモリ量を参照してください。現在オープンなリーダーボードで首位のモデルについては、GLM-5.3 のハードウェア要件を参照してください。