Τοπική ΤΝ
How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.
-
12 Sep 2026
Απαιτήσεις υλικού για DeepSeek V4.1-Flash
510GB των weights, 8B active. A 2-bit MLX build runs on a Mac Studio M3 Ultra 256GB at 9.5 tokens per second — but not through llama.cpp, Ollama or LM Studio.
-
12 Sep 2026
Απαιτήσεις υλικού για το GLM-5.3
744B βάρη, 40B ενεργά ανά token και μια build με 4 bit που απαιτεί 475GB. Τι χρειάζεται το ισχυρότερο ανοιχτό μοντέλο, τι θυσιάζετε σε κάθε κβαντοποίηση και ποια μηχανήματα το φτάνουν.
-
12 Sep 2026
Πόση μνήμη χρειάζεται για να τρέξετε ένα ανοιχτό μοντέλο τοπικά
Τα συνολικά parameters καθορίζουν τον λογαριασμό μνήμης. Τα active parameters καθορίζουν την ταχύτητα. Μια κλίμακα χωρητικότητας για τα ανοιχτά μοντέλα του 2026, από το 17GB έως το 1.6TB.