Απαιτήσεις υλικού για DeepSeek V4.1-Flash

Η DeepSeek κυκλοφόρησε το V4.1-Flash στις 10 Σεπτεμβρίου 2026 με άδεια MIT, με παράθυρο συμφραζομένων ενός εκατομμυρίου token και εγγενή κατανόηση εικόνων.¹ Η πρώτη ερώτηση που έκαναν όλοι ήταν αν θα έτρεχε σε μηχάνημα 128GB, επειδή το τελευταίο μοντέλο που ονομαζόταν Flash το έκανε.

Δεν θα το κάνει. V4.1-Flash διατίθεται ως 510GB από FP8 βάρη σε 48 αρχεία, και το βήμα συμπίεσης έχει ήδη καταναλωθεί.² Αλλά όντως τρέχει τοπικά σήμερα, σε hardware που μπορείτε να αγοράσετε: μια κοινοτική κατασκευή 2-bit έχει μετρηθεί στα 9.46 token ανά δευτερόλεπτο σε ένα Mac Studio 256GB Ultra M3.⁵

• Παράμετροι552B8B in, 16B out
• Συμφραζόμενα1Mtoken
• ΆδειαMITχωρίς ενεργοποίηση εσόδων
• Βάρη510GBFP8, 48 αρχεία

Το Flash περιγράφει την ταχύτητα, όχι το μέγεθος

V4.1-Flash περιλαμβάνει ένα 552B-παραμετρικό backbone και ενεργοποιεί 8B παραμέτρους ενώ διαβάζει το prompt σας και 16B ενώ γράφει την απάντηση.¹ Αυτά τα μικρά ενεργά μεγέθη είναι αυτό στο οποίο αναφέρεται το "Flash". Καθορίζουν πόσο γρήγορα παράγει και πόσο κοστίζει ανά token σε ένα API. Δεν καθορίζουν το κόστος μνήμης.

Υπάρχει ένας δεύτερος, λιγότερο προφανής λόγος για τον οποίο το αρχείο είναι τόσο μεγάλο. Το μοντέλο φέρει ένα engram δύο επιπέδων, μια ενσωμάτωση hashed n-gram της οποίας οι πίνακες αναζήτησης από μόνοι τους αντιστοιχούν σε περίπου 196B παραμέτρους — περίπου σαράντα τοις εκατό του checkpoint.⁵ Αυτή είναι μνήμη που τη διατηρείτε και σπάνια τη χρησιμοποιείτε για υπολογισμό, και αυτός είναι ο λόγος που το download είναι μεγαλύτερο απ’ όσο υποδηλώνει ο αριθμός του backbone.

Το προηγούμενο μοντέλο έκανε εύκολη την παγίδα. Το DeepSeek-V4-Flash-0731 ήταν 284B συνολικά με 13B ενεργά, και εκτελούνταν χωρίς απώλειες σε 169GB.³ V4.1-Flash φέρει περίπου διπλάσια βασική δομή κάτω από το ίδιο όνομα προϊόντος.

Η κβαντοποίηση έχει ήδη καταναλωθεί

Κανονικά, ένα μοντέλο 552B θα ήταν πρόσκληση για κβαντοποίηση. Η DeepSeek το έκανε πριν το κατεβάσετε: το αποθετήριο διατίθεται σε FP8 με τα επίπεδα ειδικών ήδη συμπιεσμένα.² Απομένει λιγότερο να αφαιρεθεί από ό,τι η συνηθισμένη περικοπή τέσσερα προς ένα που περιμένουν οι περισσότεροι από ένα GGUF 4-bit, γι’ αυτό οι παρακάτω community builds δεν πέφτουν τόσο όσο θα φανταζόσασταν.

Τι το εκτελεί πραγματικά

Αυτό είναι το μέρος που δεν σας λέει κανένα φύλλο προδιαγραφών. Ένα νέο μοντέλο χρειάζεται η αρχιτεκτονική του να γραφτεί στη μηχανή που χρησιμοποιείτε, και V4.1-Flash εισήγαγε μία νέα: έναν causal encoder-decoder, σαράντα επίπεδα διατεταγμένα ως ένας causal encoder είκοσι επιπέδων ακολουθούμενος από έναν decoder είκοσι επιπέδων.¹ Η αρχιτεκτονική deepseek_v41 δεν υπάρχει σε κανένα mainstream runtime — ούτε Transformers, ούτε mlx-lm, ούτε mlx-vlm, ούτε llama.cpp.⁴

Αυτό αποκλείει τις εύκολες διαδρομές. Το Ollama, το LM Studio και οτιδήποτε άλλο βασίζεται στο llama.cpp δεν μπορεί να το φορτώσει, και δεν υπάρχει χρησιμοποιήσιμο GGUF. Δεν αποκλείει όμως την εκτέλεσή του.

Στο Apple silicon, το PipeNetwork port παρέχει την αρχιτεκτονική που λείπει και οι community MLX conversions παρέχουν τα βάρη.⁴ Σε διακομιστές NVIDIA και AMD, το SGLang δημοσιεύει development container images για αυτό — lmsysorg/sglang:dev-dsv41 και dev-dsv41-mi35x — πριν από μια επισημασμένη έκδοση. Το vLLM έχει ανοιχτά pull requests και, από τον 10 Σεπτέμβριο, κανένα δεν έχει συγχωνευθεί.⁶

Άρα πρόκειται για πρώιμο λογισμικό πάνω σε σταθερό υλικό. Περιμένετε να κάνετε clone ένα repository αντί να πληκτρολογήσετε μία εντολή εγκατάστασης, και περιμένετε αυτό να γίνει ευκολότερο τις επόμενες λίγες εβδομάδες αντί δυσκολότερο.

Ποιο μηχάνημα

Το 2-bit build είναι αυτό με το οποίο αξίζει να ξεκινήσετε, και είναι πραγματικά καλά νέα. Είναι 238.8GB στο δίσκο και έφτασε στο μέγιστο των 166.69 GiB μνήμης διεργασίας στις δοκιμές, κάτι που το τοποθετεί μέσα σε ένα Mac Studio M3 Ultra 256GB με περιθώριο. Ο δημιουργός του μέτρησε 9.46 tokens ανά δευτερόλεπτο με greedy decoding ακριβώς σε αυτό το μηχάνημα.⁵ Αυτό δεν είναι γρήγορο, και για ένα μοντέλο 552B που απαντά από το γραφείο είναι αξιοσημείωτο.

Το μικτό 4/8-bit build ζητά 427GB resident, κάτι που ένα Mac Studio M3 Ultra 512GB το διαθέτει, οριακά. Η στενή ισορροπία μετρά εδώ: αφήστε περιθώριο για το context, επειδή ένα μεγάλο prompt σε αυτό το context length δεν είναι δωρεάν. Το engram-6 build θέλει περίπου 477GB και μηχάνημα κατηγορίας terabyte, αφού ένα lazy forward pass μπορεί προσωρινά να χρειαστεί περίπου το διπλάσιο του build size.⁴

Πάνω από 512GB σε ένα κουτί υπάρχουν δύο έντιμες διαδρομές. Το Thunderbolt 5 clustering συγκεντρώνει unified memory σε πολλούς Mac — το macOS 26.2 πρόσθεσε RDMA μέσω Thunderbolt 5 και το exo 1.0 το υποστηρίζει, οπότε συνδεδεμένα Mac Studio M3 Ultra 512GB μηχανήματα αθροίζονται.⁷ Ή φτιάχνετε έναν σταθμό εργασίας με τη χωρητικότητα: ένα Neox Metal στην πλατφόρμα Threadripper PRO διαθέτει οκτώ κανάλια registered ECC memory, που είναι ο τρόπος να φτάσετε σε ένα terabyte σε ένα μόνο μηχάνημα, και η ίδια πλατφόρμα υποστηρίζει τις κάρτες RTX PRO 6000 που απαιτεί η διαδρομή SGLang.

Ρυθμίσεις

Η DeepSeek συνιστά θερμοκρασία 1.0 με top-p στο 0.95 ή στο 1.0, και τουλάχιστον 256K του max_tokens.¹ Η προσπάθεια συλλογισμού είναι ένας συνεχώς ρυθμιζόμενος ακέραιος από 1 έως 100 αντί για τον διακόπτη low/high/max που χρησιμοποιούν άλλα μοντέλα, οπότε αξίζει να ρυθμιστεί αντί να μείνει στην προεπιλογή.

Ένας αριθμός είναι ασυνήθιστα καλός. V4.1-Flash χρησιμοποιεί 890 bytes ανά token της καθολικής KV cache, κάτι που κρατά ένα πλήρες context ενός εκατομμυρίου tokens κάτω από ένα gigabyte.¹ Στα περισσότερα μοντέλα αυτού του μεγέθους το context είναι αυτό που επιβάλλει την επόμενη αναβάθμιση μνήμης. Εδώ είναι τα weights, και μόνο τα weights.

Για τους υπολογισμούς πίσω από όλα αυτά, δείτε πόση μνήμη χρειάζεστε για να εκτελέσετε τοπικά ένα open model. Για το μοντέλο που βρίσκεται αυτή τη στιγμή στην κορυφή των open leaderboards, δείτε τις απαιτήσεις υλικού του GLM-5.3.