استراتيجية البيانات الاصطناعية
أطلس بيانات إنفيديا يُظهر لماذا البيانات الاصطناعية أهم من أوزان النماذج
يوفر أطلس المطالبات Nemotron ما بعد التدريب v3 من إنفيديا خريطة تفاعلية لمليارات العينات الاصطناعية، مسلطاً الضوء على كيف أن البيانات الاصطناعية المفتوحة هي الطبقة المفقودة لبناء وكلاء ذكاء اصطناعي موثوقين. وتجادل الشركة بأن السلوك العاملي يجب أن يكون قابلاً للفحص، وأن البيانات الاصطناعية المنشورة علناً هي الطريقة الوحيدة للحفاظ على الإشارات الخاصة دون كشف الأسرار التجارية.
أصدرت إنفيديا أطلس المطالبات Nemotron ما بعد التدريب v3، وهي خريطة مرئية تفاعلية تتيح للمطورين استكشاف تكوين مجموعة بياناتها الاصطناعية بعد التدريب. الأداة، المبنية على تمثيل عينات بحجم ملايين عينات المطالبات، تشير إلى أن الشركة تراهن على هيمنتها في الأجهزة على مشكلة أكثر تعقيداً: نقص البيانات لبناء وكلاء ذكاء اصطناعي يعملون في العالم الحقيقي.
أطلس المطالبات ليس لعبة. كل نقطة على الخريطة تمثل عينة مطالبة من مجموعة بيانات ما بعد التدريب Nemotron v3، مجمعة حسب التشابه الدلالي. تتيح الطبقات اللونية للمستخدمين التصفية حسب مجموعة البيانات، مرحلة الأنابيب، المجال، أو استخدام الأداة. يمكن للمطور الذي يقوم بتكبير منطقة مسماة "خوارزميات البرمجة" أو "السلوك العاملي" فحص الأمثلة وفهم لماذا يتصرف النموذج بهذه الطريقة. تُظهر الخريطة النسب الصادقة لمزيج البيانات، دون إخفاء نسبة مسائل الرياضيات إلى عينات السلامة. ai2-releases-olmo-eval-an-open-evaluation-workbench-for-active-llm-development
مشكلة بيانات العامل
صياغة إنفيديا مباشرة: بناء الوكلاء صعب لأن العالم الحقيقي لا يتصرف مثل معيار. الوكيل الذي لا يمكنه التعافي من استدعاء API معطل أو سير عمل غير مرئي هو مكمل تلقائي بأدوات، وليس وكيلاً. الفجوة، كما تجادل الشركة، هي مشكلة بيانات تشمل آثار هندسة البرمجيات، حالات فشل استخدام الأداة، التفكير متعدد الخطوات، الاسترجاع، السلامة، محاكاة المستخدم، تنفيذ سير العمل، وفي النهاية التفاعل مع العالم المادي. the-subtle-trap-waiting-for-ai-agents-in-production
هذا هو المكان الذي تعيش فيه منتجات بيانات Nemotron المفتوحة. أصدرت إنفيديا أكثر من 10 تريليونات رمز تدريب مسبق وملايين عينات ما بعد التدريب عبر مجالات متعددة. يجعل أطلس المطالبات هذا الحجم قابلاً للتنقل.
في المؤتمر الدولي للتعلم الآلي في وقت سابق من هذا العام، استشهد ما يقرب من 145 ورقة بحثية بنماذج ومجموعات بيانات Nemotron. تلعب البيانات الاصطناعية دوراً رئيسياً في هذا النظام البيئي: يستخدم Nemotron-CC البيانات الاصطناعية لتعزيز Common Crawl للتدريب المسبق، ويستخدم Nemotron-CC-MATH أسئلة الرياضيات الاصطناعية لتحسين التفكير، ويغطي Nemotron Pretraining البيانات العامة والبرمجية والرياضية والاصطناعية عبر تريليونات الرموز. nvidia-nemo-automodel-delivers-37x-faster-moe-fine-tuning-via-expert-parallelism-and-deepep
الأسرار، وليس الرموز
جادل نائب رئيس إنفيديا لأبحاث التعلم العميق التطبيقي، برايان كاتانزارو، مؤخراً بأن كل شركة مبنية حول سر، سير عمل، مجموعة نصوص، أو نمط عميل لا يملكه المنافسون. هذه الأسرار تجعل الذكاء الاصطناعي مفيداً، لكن لا يمكن للشركات كشفها بسهولة. البيانات الاصطناعية المنشورة علناً تمنح الفرق طريقة للحفاظ على الإشارات المفيدة دون كشف المصادر الأساسية.
"إذا تعلم كل نموذج من نفس المجموعة الضيقة من البيانات، فلا ينبغي أن نتفاجأ عندما تبدأ النماذج في الشعور بالتشابه،" لاحظ كاتانزارو خلال حلقة نقاش على الهواء مباشرة. "الجزء الصعب هو أن البيانات الأكثر فائدة تقع داخل مؤسسات لا يمكنها نشرها بشكل مباشر."
هذا التوتر، بين الحاجة إلى بيانات غنية ومتنوعة والحاجة إلى السرية الخاصة، هو الديناميكية الأساسية التي تعالجها استراتيجية بيانات Nemotron المفتوحة. من خلال إصدار مجموعات البيانات الاصطناعية بشكل مفتوح، تدعو إنفيديا المجتمع البحثي للبناء فوقها، بينما تحتفظ الشركات بقدرتها على توليد تنويعاتها الاصطناعية الخاصة بإشارات خاصة مدمجة. why-your-ai-agent-might-ace-the-task-but-flunk-the-process-enter-skillcoach
بيانات محلية لوكلاء عالميين
يوضح مشروع Nemotron-Personas من إنفيديا المبدأ. مجموعة البيانات، المبنية باستخدام NeMo Data Designer، تخلق شخصيات اصطناعية محلية الأساس تلتقط التنوع الديموغرافي والجغرافي. مصنف السموم المدرب على بيانات الإنترنت الإنجليزية يفقد الرسائل العدائية باللغة الكورية أو اليابانية، حيث يتم ترميز العدوان في مستويات الأدب بدلاً من المفردات الواضحة. تهدف بيانات الشخصية إلى معالجة هذا.
في VivaTech في باريس الشهر الماضي، أطلقت إنفيديا البلد العاشر في المجموعة، والتي تمثل الآن أكثر من 2.4 مليار شخص. تؤكد الشركة على أن الجودة محلية، فقط الباحثون الإقليميون، المتحدثون الأصليون، وخبراء الموضوع يمكنهم فحص وتصحيح البيانات لسياقهم. nvidias-audex-packs-five-audio-jobs-into-one-model-and-beats-the-specialists
عتبات اصطناعية وثقة
تعترف إنفيديا بالمقايضات. تقلل البيانات الاصطناعية المخاطر لكنها لا تلغي الحاجة إلى الأساس، النسب، التنظيم، التقييم، والحكم البشري. تقترح الشركة مفهوم "العتبات الاصطناعية"، نقاط حيث لا يمكن معالجة البيانات على أنها حقيقية بحتة. الخط ليس واضحاً دائماً، حيث أن سير العمل الحقيقي، التغذية الراجعة البشرية، الآثار المولدة بواسطة النموذج، المستخدمين المحاكيين، والملصقات الاصطناعية غالباً ما تتشابك.
الإجابة، كما تجادل إنفيديا، هي التوثيق: ما تم توليده، ما تم تأسيسه، ما تمت مراجعته، وما المقصود من البيانات لاختباره. مع تدريب المزيد من أنظمة الذكاء الاصطناعي على معلومات اصطناعية، تحتاج الصناعة إلى عادات مشاركة أفضل لفحصها ومناقشة هذه التقنيات علناً. the-verification-horizon-why-rewarding-coding-agents-is-getting-harder
لماذا هذا مهم لسباق العامل
كل مختبر كبير يتسابق لإطلاق وكلاء يمكنهم حجز الرحلات الجوية، كتابة الكود، تقديم تقارير النفقات، وتشغيل جداول البيانات. لكن أنماط الفشل، استدعاءات API المتخيلة، السياق المفقود، الخطط متعددة الخطوات المكسورة، تعود باستمرار إلى نفس السبب الجذري: بيانات تدريب غير كافية تحاكي التوزيع الحقيقي للفشل والاسترداد.
رهان إنفيديا هو أن البيانات الاصطناعية المفتوحة، خاصة لسير العمل العاملي، ستسرع المجال بأكمله. أطلس المطالبات يمنح المطورين أداة جديدة لمراجعة البيانات وراء النماذج التي يعتمدون عليها. سواء كان ذلك سيسرع الجدول الزمني لموثوقية العامل في العالم الحقيقي أو ببساطة يرسم المشكلة بشكل أكثر وضوحاً، سيقوم السوق بذلك. لكن الإشارة من إنفيديا لا لبس فيها: أوزان النموذج مهمة. البيانات أكثر أهمية.