كمية الذاكرة اللازمة لتشغيل نموذج مفتوح محلياً

النموذج ذو الأوزان المفتوحة هو ملف. والسؤال الذي يحسم ما إذا كان يمكنك استخدامه هو سؤال غير لامع: هل يتسع الملف في ذاكرة جهازك، دفعةً واحدة؟ تأتي بطاقة الرسوميات والمعالج ودرجات الاختبار في المرتبة الثانية. إذا لم تتسع الأوزان، فلا شيء آخر يهم.

وقد أصبح هذا السؤال أصعب في 2026. فأقوى النماذج المفتوحة باتت الآن ضخمة جداً وشديدة الندرة في الوقت نفسه. يمكن لنموذج أن يضم ثلاثة أرباع تريليون وزن ولا يلمس سوى واحد من كل أربعين منها لإنتاج كل كلمة. وهو يعمل أسرع بكثير مما يوحي به حجمه، ومع ذلك فهو لا يزال يحتاج إلى كل بايت من ذلك الحجم في الذاكرة.

إجمالي المعلمات هو ما يحدد الفاتورة. أما المعلمات النشطة فهي ما يحدد السرعة.

يكاد كل نموذج مفتوح رائد اليوم يستخدم مزيجاً من الخبراء. يُقسَّم النموذج إلى العديد من الشبكات المتخصصة الصغيرة. ولكل رمز، يختار الموجّه عدداً قليلاً منها. يحمل GLM-5.3 744B معلمة ويستخدم نحو 40B لكل رمز.¹ DeepSeek-V4.1-Flash يحمل بنية أساسية 552B ويُفعِّل 8B معلمة أثناء القراءة و16B أثناء الكتابة.⁶

تخيّلها كمكتبة مرجعية. أنت تقرأ بضع صفحات للإجابة عن سؤال، لذا تأتي الإجابة بسرعة. لكنك لا تزال بحاجة إلى مساحة رفوف لكل كتاب، لأنك لا تعرف مسبقاً أي الصفحات ستحتاجها. يغيّر الموجّه رأيه مع كل رمز.

ولهذا السبب يمكن لنموذج 744B أن يكون قابلاً للاستخدام على جهاز واحد أصلاً، ولماذا لا يزال ذلك الجهاز يحتاج إلى مئات الغيغابايت.

ما التكلفة الحقيقية للتكميم

يخزّن التكميم كل وزن في عدد أقل من البتات. إنه الأداة الرئيسية المتاحة لك. يأخذ GLM-5.3 810GB من الذاكرة عند 8-بت و223GB عند 1-بت — النموذج نفسه، وبصمة أصغر إلى الربع.¹

من السهل الوقوع في خطأين هنا. الأول أن حجم الملف على القرص ليس هو رقم الذاكرة. فأنت تحتفظ أيضاً بالسياق والحالة العاملة، لذلك يبقى الإجمالي أثناء التشغيل أعلى من حجم التنزيل. وتراعي الجداول المنشورة لدى Unsloth ذلك، ولهذا يبدو عمود الذاكرة لديهم أعلى من عمود الملف.

أما الثاني فهو أن الدقة تنخفض مع تقليل عدد البتات، ولا تنخفض بلطف في الطرف الأدنى. ووفق قياسات Unsloth نفسها، يحافظ GLM-5.3 على 94.29% من أعلى دقة 1 عند 4-بت، و80.93% عند 2-بت و72.56% عند 1-بت.¹ أما البناء 1-بت فهو طريقة لرؤية النموذج وهو يعمل. لكنه ليس النموذج الذي تضعه خلف عمل حقيقي.

ثلاث طرق للوصول إلى الرقم

ذاكرة موحَّدة واحدة. على Apple silicon، يشارك المعالج والرسوميات الذاكرة نفسها، لذا يمكن أن يخصّص Mac Studio M3 Ultra 512GB معظمها تقريبًا لنموذج. هذا هو الطريق الأبسط إلى سعة كبيرة، وهو الأكثر هدوءًا أيضًا. لكنه أيضًا السقف: 512GB هي أكبر ذاكرة موحَّدة تبيعها Apple، على M3 Ultra اليوم وعلى M5 Ultra الأحدث التي لا يُفترض أن تتوافر 512GB إلا في أواخر أكتوبر.⁷ الانتظار لا يمنحك سعة أكبر.

بطاقة رسوميات مع ذاكرة RAM للنظام. تتوزع نماذج mixture-of-experts بوضوح. طبقات الانتباه، التي يمر بها كل token، توضع على بطاقة الرسوميات. أما طبقات الخبراء، الكبيرة لكنها نادرًا ما تُقرأ، فتبقى في ذاكرة النظام. في llama.cpp، تتحكم الراية --n-cpu-moe في موضع هذا التقسيم. هذه هي الطريقة الأرخص للوصول إلى سعة كبيرة، لكنها تنقل عنق الزجاجة إلى سرعة DDR5 لديك، لأن الخبراء عندما يصبحون في ذاكرة النظام فإن سرعة قراءتهم هي عرض النطاق الترددي للذاكرة لديك. ومن هنا تبرز أهمية منصة workstation ثمانية القنوات أكثر بكثير من الشارة على بطاقة الرسوميات.

كل شيء في VRAM. الأسرع والأغلى. أربع بطاقات NVIDIA RTX PRO 6000 تمنح 384GB. وقد قاست HelixML نموذج GLM-5.3-Flash على أربع بطاقات RTX PRO 6000 Server Edition عند 63.7 رمز إخراج في الثانية لطلب واحد، لترتفع إلى 82.8 مع speculative decoding — وذكرت أن الوصول إلى ذلك تطلّب أصلًا build تجريبيًا مثبتًا.⁸ الدعم في اليوم zero لبنية جديدة نادرًا ما يكون جاهزًا.

السياق ليس مجانيًا

كل نموذج في الجدول أعلاه يعلن عن نافذة سياق بمليون token. الاحتفاظ بهذا السياق يكلّف ذاكرة خاصة به، منفصلة عن الأوزان، وهو السطر الذي ينساه الناس عند تحديد حجم الجهاز. ويعتمد ذلك بالكامل على البنية. تنشر DeepSeek 890 bytes per token لـ V4.1-Flash، الذي يحتفظ بمليون token كامل تحت gigabyte واحد.⁶ التصاميم الأقدم أثقل بكثير. حدّد الحجم وفقًا للأوزان، ثم اترك هامشًا حقيقيًا فوق ذلك.

السُّلَّم

اقرأ الجدول كقائمة شراء، وسيتضح أنه يتكوّن من أربع درجات.

حتى نحو 32GB تشغّل النماذج الصغيرة الجيدة. Qwen3.8-27B يحتاج إلى 17GB عند 4-bit ولديه vision وreasoning مدمجان.⁴ بطاقة رسوميات workstation واحدة تغطي هذا المستوى، وهي أكثر قدرة مما يوحي به الرقم.

حوالي 256GB هو المكان الذي تبدأ فيه الحدود الأمامية. يناسب DeepSeek-V4-Flash بصيغة losslessly داخل 169GB، لذا تشغّل النموذج تمامًا كما سلّمه مؤلفوه من دون أي سؤال عن الدقة إطلاقًا.² يتناسب MiniMax M3 عند 3-bit.³

512GB هو الدرجة المثيرة للاهتمام في سبتمبر 2026. هنا يعمل GLM-5.3 عند 4-bit مع بقاء دقته intact، وهنا تقع النسخة المجتمعية 4/8-bit من DeepSeek-V4.1-Flash. يصل إليه Mac Studio M3 Ultra 512GB في جهاز واحد اليوم. ويصل إليه Neox Metal مع 512GB من ECC RDIMM وبطاقة لحمل طبقات الانتباه.

بعد 512GB تبدأ مرحلة البناء بدل الشراء. يحتاج Kimi K3 إلى 610GB عند 1-bit و 1.6TB ليعمل losslessly.⁵ وهذا يعني ذاكرة registered ECC ذات قنوات على منصة workstation، وأن الحديث هنا يصبح عن الغرض الذي صُمّم النموذج من أجله.

ستتغير النماذج المحددة — ثلاثة من الستة في ذلك الجدول لم تكن موجودة في يونيو. أما الحسابات فلن تتغير. اعثر على إجمالي عدد المعاملات، واختر quantisation يمكنك الدفاع عنه، وأضف السياق، ثم اشترِ السعة. لمعرفة ما يحتاجه كل نموذج حالي بالتفصيل، راجع ملاحظاتنا عن GLM-5.3 و DeepSeek V4.1-Flash.