فك الترميز التخميني شبه الذاتي التراجعي يصل إلى مرحلة الإنتاج
DSpark من DeepSeek يعالج عائقين رئيسيين كانا يعيقان تسريع استدلال الذكاء الاصطناعي
إطار عمل فك ترميز تخميني جديد من DeepSeek يعالج عائقين رئيسيين كانا يحدان من أداء المشتقات المتوازية: تدهور اللاحقة والتحقق المهدر. يحقق DSpark تسريعًا في سرعة التوليد بنسبة 60-85% في بيئة الإنتاج من خلال دمج بنية شبه ذاتية تراجعية مع جدولة تعتمد على الثقة تقوم باستبعاد الرموز منخفضة القيمة قبل أن يقوم النموذج المستهدف بالتحقق منها.

لسنوات، كان فك الترميز التخميني هو الحل البديل الذي يسمح لنماذج اللغات الكبيرة بتوليد النص بشكل أسرع دون التضحية بالجودة. الفكرة أنيقة: نموذج مُسودة خفيف الوزن يقترح كتلة من الرموز المرشحة، ثم يقوم النموذج المستهدف كامل الحجم بالتحقق من الكتلة بأكملها في تمرير أمامي واحد. يتم الاحتفاظ بالرموز المقبولة؛ ويتم التخلص من أول رمز مرفوض وكل ما بعده. عند تطبيقه بشكل صحيح، يُنتج النظام نفس المخرجات التي ينتجها النموذج المستهدف بمفرده، ولكن في وقت أقل. fast-lewm-parallel-action-prefix-prediction-slashes-latent-world-model-planning-costs
لكن هذا النهج واجه دائمًا حلاً وسطًا أساسيًا. تنتج المشتقات الذاتية التراجعية تسلسلات عالية الجودة ولكن زمن الوصول الخاص بها ينمو خطيًا مع حجم الكتلة. يمكن للمشتقات المتوازية اقتراح كتل طويلة في تمرير واحد، لكنها تعاني من تدهور سريع في معدلات القبول في المواضع اللاحقة لأنها لا تستطيع نمذجة التبعيات بين الرموز. وحتى عندما تنتج مُشتقة متوازية اقتراحًا طويلًا، فإن التحقق من كل رمز بشكل عشوائي يهدر الموارد الحاسوبية، خاصة في ظل التزامن العالي، حيث يشغل كل رمز مرفوض سعة دفعة كانت يمكن أن تخدم طلبات أخرى. when-your-ai-knows-you-better-than-you-know-yourself-the-hidden-cost-of-context-in-17-slide-recaps
عائقان حددتهما DeepSeek
قام فريق البحث في DeepSeek، بالتعاون مع باحثين من جامعة بكين، بإجراء تحليل منهجي لهذه العوائق. كشفت المقاييس المرجعية غير المتصلة بالإنترنت على نماذج Qwen3-4B و8B و14B عن نمط واضح: تبدأ المُشتقة المتوازية DFlash بقوة في الموضع 1 (قبول شرطي بنسبة 0.88 في الرياضيات) ولكنها تتدهور بسرعة إلى 0.78 بحلول الموضع 7. وفي الوقت نفسه، تحافظ المُشتقة الذاتية التراجعية Eagle3 على معدل قبولها أو حتى تحسنه في عمق الكتلة، من 0.53 إلى 0.74 في الدردشة، ولكنها تعاني من بنية ضحلة تحد من الأداء الأولي. the-verification-horizon-why-rewarding-coding-agents-is-getting-harder
"نظرًا لأن فك الترميز التخميني يعمل كعملية بقاء تعتمد على مطابقة البادئة بشكل صارم، فإن الرمز الأول يحمل أعلى قيمة تأثير. فرفضه هنا يبطل الكتلة بأكملها على الفور،" كما يكتب المؤلفون. تفسر ميزة السعة التي تتمتع بها المشتقات المتوازية في الموضع 1 سبب تفوقها على النماذج الذاتية التراجعية عالميًا على الرغم من تدهور اللاحقة. ifbench-the-new-benchmark-testing-ai-instruction-following
كيف يجمع DSpark أفضل ما في العالمين
يقسم DSpark توليد المُسودة إلى مرحلتين. بنية أساسية متوازية، مبنية على تصميم DFlash، تقوم بتمرير أمامي واحد على الكتلة بأكملها، مما ينتج حالات مخفية وقيم لوغاريتمية أساسية. ثم يقوم رأس تسلسلي خفيف الوزن بإدخال التبعية بين رموز المُسودة من خلال انحياز انتقال ماركوف من الدرجة الأولى. يستخدم المكون التسلسلي تحليلًا منخفض الرتبة (رتبة 256) للحفاظ على مساحة التخزين والحساب لكل خطوة عند الحد الأدنى. kog-laneformer-2b-the-latency-first-model-that-redefines-small-scale-inference
التأثير، وفقًا للورقة البحثية، هو أن DSpark يرث معدل القبول الأولي العالي للمشتقة المتوازية العميقة مع تخفيف التدهور السريع النموذجي للتوليد المتوازي الخالص. عبر نماذج Qwen3، حسّن DSpark متوسط طول القبول الكلي مقارنة بـ Eagle3 بنحو 27 إلى 31 بالمائة وعن DFlash بنسبة 16 إلى 18 بالمائة. على النموذج المستهدف Gemma4-12B، كانت المكاسب من 12 إلى 17 بالمائة مقارنة بـ Eagle3 ومن 9 إلى 14 بالمائة مقارنة بـ DFlash.
الأكثر دلالة هو سلوك توسع النموذج. يتفوق DSpark المكون من طبقتين على خط الأساس DFlash المكون من 5 طبقات عبر جميع المجالات، مما يُظهر أن "حقن الانحدار الذاتي المحلي عبر رأس تسلسلي خفيف الوزن يوفر مقايضة دقة-معامل مواتية للغاية،" كما يلاحظ المؤلفون. how-local-llms-like-gemma-and-qwen-are-taming-open-source-repository-triage-at-scale
التحقق المجدول بالثقة: معرفة متى تتوقف
النصف الثاني من إطار عمل DSpark هو ما يجعله جاهزًا للإنتاج. يقرن النظام رأس ثقة، الذي يقدّر احتمالات بقاء البادئة لكل موضع، مع جدولة تراعي العتاد تحدد بشكل ديناميكي أطوال التحقق المثلى بناءً على حمل النظام الحالي. يعالج هذا مشكلة لا تستطيع المقاييس المرجعية غير المتصلة بالإنترنت التقاطها: في ظل التزامن العالي، فإن التحقق من الرموز اللاحقة منخفضة الثقة يؤدي إلى تدهور الإنتاجية الإجمالية أكثر مما يساعد. the-verification-horizon-why-rewarding-coding-agents-is-getting-harder
في عمليات المسح للعتبات غير المتصلة بالإنترنت، أثبت رأس الثقة فعاليته في تحديد رموز اللاحقة منخفضة القيمة. مع زيادة عتبة القبول، ارتفع معدل القبول الإجمالي بشكل مطرد لأن المُقدّر قام بتصفية الرموز التي سيتم رفضها في النهاية، خاصة في أعباء عمل الدردشة، حيث تجعل توزيعات الرموز عالية الإنتروبيا التحقق الأعمى أمرًا مهدرًا.
تمت إضافة إجراء معايرة لاحق يسمى تحجيم درجة الحرارة التسلسلي (STS) لمحاذاة الاحتمالات المتوقعة مع معدلات القبول التجريبية. "نظرًا لأن تقديرات الثقة العصبية غالبًا ما تكون مفرطة في الثقة، فإن استخدام درجات الثقة الخام مباشرة من شأنه أن يشوه تقدير الإنتاجية، مما يؤدي إلى جدولة دون المستوى الأمثل،" تشرح الورقة.
النشر الإنتاجي: تسريع التوليد بنسبة 60 إلى 85 بالمائة
الاختبار الحقيقي لأي تحسين للاستدلال هو حركة مرور المستخدمين المباشرة، وقد قامت DeepSeek بنشر DSpark داخل نظام خدمة V4 الخاص بها. بالمقارنة مع خط الأساس الإنتاجي السابق MTP-1، قام DSpark بتسريع سرعات التوليد لكل مستخدم بنسبة 60 إلى 85 بالمائة على متغير V4-Flash وبنسبة 57 إلى 78 بالمائة على V4-Pro عند معدلات إنتاجية إجمالية متطابقة. what-the-5-day-old-paper-260623050-tells-us-about-the-future-of-ai
الأهم من ذلك، خفف DSpark من حدة انخفاض الأداء الذي جعل مستويات التفاعل الصارمة غير قابلة للتحقيق سابقًا. في ظل قيود اتفاقية مستوى الخدمة الصارمة، مثل 120 رمزًا في الثانية لـ Flash و50 لـ Pro، تدهورت سعة خط الأساس بشكل كبير. منع التحقق المجدول بالثقة في DSpark هذا التدهور من خلال توجيه حسابات النموذج المستهدف فقط نحو الرموز ذات العائد المتوقع الأعلى. kog-laneformer-2b-the-latency-first-model-that-redefines-small-scale-inference
القطع الأثرية مفتوحة المصدر وتأثير المجتمع
أصدرت DeepSeek نقاط تفتيش DSpark المُدرّبة لكل من نموذجي V4-Flash (معاينة) وV4-Pro (معاينة). كما قامت الشركة بنشر DeepSpec كمستودع تدريب يعتمد على الخوارزميات يتضمن تطبيقات Eagle3 وDFlash وDSpark. تهدف نقاط التفتيش والكود إلى دعم المزيد من الأبحاث حول خدمة نماذج اللغات الكبيرة الفعالة. cuga-ibms-open-source-agent-harness-lets-you-build-apps-with-just-a-prompt-and-tool-list
يمثل هذا الإصدار مساهمة كبيرة في أدبيات فك الترميز التخميني، ليس فقط من حيث الابتكارات الخوارزمية، ولكن أيضًا للطريقة المنهجية التي تشخص بها الورقة وتعالج العوائق التي حدت من أداء المشتقات المتوازية في الإنتاج. من خلال إظهار أن مُشتقة شبه ذاتية تراجعية مكونة من طبقتين يمكنها التفوق على مُشتقة متوازية مكونة من 5 طبقات، وأن التحقق التكيفي يمكنه تحويل حدود باريتو لنظام الخدمة، يقدم DSpark دليلًا عمليًا لنشر كتل مُسودة كبيرة في بيئات ذات تزامن عالٍ. ai2-releases-olmoearth-v11-slashing-compute-costs-up-to-3x-for-satellite-imagery-ai