طريقة مايكروسوفت الجديدة تحوّل الذكاء الاصطناعي للدماغ ذو الصندوق الأسود إلى نظريات قابلة للقراءة

لأكثر من عقد من الزمان، كانت نماذج اللغة الكبيرة أكثر الأدوات دقة للتنبؤ بكيفية استجابة الدماغ البشري للغة. قم بتغذية LLM بنفس القصة التي يسمعها الشخص داخل جهاز التصوير بالرنين المغناطيسي الوظيفي، ويمكن للتمثيلات الداخلية للنموذج أن تتنبأ بنشاط بقع فردية من القشرة الدماغية بدقة ملحوظة. لكن لا أحد يستطيع قراءة هذه النماذج. إنها كتل هائلة وغير مفهومة من المعلمات تتحدى الترجمة المباشرة إلى تفسير. نموذج يتنبأ بنشاط الدماغ قد يخبرك أن منطقة ما تستجيب للغة، لكنه لا يستطيع أن يقول ما إذا كانت هذه الاستجابة للطعام أو الأماكن أو الأرقام أو شيء آخر تمامًا. مع انتشار النماذج ذات الصندوق الأسود، أصبحت الفجوة بين التنبؤ والفهم واحدة من الألغاز المركزية في علم الأعصاب الحاسوبي. llms-corrupt-your-documents-when-you-delegate-a-close-look-at-the-delegate-52-benchmark

تحويل الصناديق السوداء إلى نظريات قابلة للاختبار

في ورقة بحثية مقبولة في Nature Neuroscience، اقترح علماء أبحاث مايكروسوفت، بالتعاون مع زملاء في جامعة كاليفورنيا في بيركلي وجامعة كاليفورنيا في سان فرانسيسكو وجامعة كولومبيا، مخرجًا من أزمة قابلية التفسير هذه. إطار عملهم، الاختبار السببي التوليدي (GCT)، يقطر نماذج التنبؤ بالدماغ إلى حسابات قصيرة قابلة للقراءة عن ما تستجيب له كل رقعة من القشرة الدماغية، ثم يختبر تلك الحسابات. يكتب LLM قصصًا جديدة مصممة لتنشيط منطقة دماغية محددة. يستمع الأشخاص إلى هذه القصص في الماسح الضوئي. إذا كان التفسير صحيحًا، تضيء المنطقة المستهدفة. والنتيجة هي طريقة تترجم النماذج التنبؤية غير القابلة للتفسير إلى عملة العلم: فرضيات موجزة يمكن تأكيدها أو دحضها في تجربة متابعة. ai-as-an-extension-of-human-intelligence-not-a-replacement

كيف يعمل GCT

يعمل GCT في خطوتين: التفسير، ثم التحقق. لتوليد تفسير، تبدأ الطريقة بنموذج تنبؤي لفوكسل واحد أو منطقة وتحدد العبارات القصيرة التي تدفع بقوة استجابته المتوقعة. ثم يلخص LLM تلك الكلمات في تفسير لفظي موجز، غالبًا ما يكون عبارة واحدة مثل 'إعداد الطعام' أو 'أسماء المواقع'.

المرحلة الثانية الحاسمة تغلق الحلقة. لبناء الثقة في هذا التفسير، يستخدم GCT LLM لكتابة قصص جديدة يتم فيها بناء كل فقرة بعناية لدفع منطقة دماغية وفقًا لتفسيرها. عاد ثلاثة أشخاص إلى الماسح الضوئي لقراءة هذه القصص الاصطناعية. إذا كان نشاط منطقة ما تجاه فقراتها 'الدافعة' أكبر بشكل ملحوظ من النص الأساسي، فإن التفسير اجتاز اختبارًا سببيًا حقيقيًا، وليس مجرد اختبار ارتباطي. ifbench-the-new-benchmark-testing-ai-instruction-following

عبر جميع الأشخاص الثلاثة، صمد النهج الأساسي: القصص الاصطناعية دفعت مناطقها المستهدفة بشكل موثوق فوق خط الأساس، مما يؤكد أن التفسيرات القصيرة لـ GCT تلتقط شيئًا تستجيب له القشرة الدماغية حقًا. كانت التفسيرات أيضًا الأكثر جدارة بالثقة حيث كانت نماذج التنبؤ بالدماغ الأساسية أقوى: كلما كان النموذج أكثر استقرارًا، كلما كان تأكيد تفسيره في الماسح الضوئي أكثر موثوقية. بعد التحقق من صحة الطريقة على المناطق التي كانت انتقائيتها معروفة بالفعل، وجه الباحثون GCT نحو أسئلة أصعب.

أثبت GCT أيضًا أنه حاد بما يكفي لحل الغموض الطويل الأمد. ثلاث مناطق متجاورة تشارك في معالجة الأماكن: القشرة خلف الطحال (RSC)، ومنطقة المكان المجاورة للحصين (PPA)، ومنطقة المكان القذالية (OPA)، غالبًا ما تم التعامل معها على أنها متشابهة وظيفيًا. في البداية، القصص المكتوبة لمنطقة واحدة تنشط الأخرى أيضًا. ولكن من خلال توليد محفزات تفاضلية، قصص مصممة لتشغيل منطقة واحدة مع إبقاء جيرانها هادئين، قام GCT بفصل الثلاثة. على سبيل المثال، تستجيب RSC بقوة أكبر لأسماء المواقع الصحيحة، مثل طوكيو أو كونيتيكت، بدلاً من الموقع العام. هذا هو نوع النظرية الدقيقة الخاصة بالمنطقة التي لا يمكن لنموذج تنبؤي خام أن يقدمها بمفرده.

بعيدًا عن المناطق المعروفة، اكتشف المؤلفون 'مناطق دقيقة' جديدة في القشرة الجبهية. من خلال مسح شبكة من المواقع المرشحة والاحتفاظ فقط بأكثرها استقرارًا، كشف GCT عن هذه المناطق غير المعروفة سابقًا والمضبوطة لمفاهيم محددة بشكل ملحوظ: واحدة انتقائية للحوار بين الناس (كلمات مثل 'قال' أو 'أخبر')، وواحدة لذكر أوقات الساعة ('الساعة الواحدة')، وواحدة للقياسات الرقمية ('50 قدمًا'). هذه تمييزات لم يبحث عنها أحد من قبل؛ لقد ظهرت لأن الطريقة يمكن أن تقترح فرضية وتختبرها فورًا. microsofts-phi-4-achieves-state-of-the-art-efficiency-in-new-research-paper

الآثار والنظرة المستقبلية

أهمية GCT تمتد إلى ما هو أبعد من علم الأعصاب. يواجه الباحثون في العديد من المجالات بشكل متزايد نفس المعضلة: نموذج يتنبأ بشكل جميل لكنه لا يشرح شيئًا. يظهر GCT أن النموذج القائم على البيانات لا يحتاج أن يكون نهاية التحقيق. يمكن تقطيره إلى نظرية قابلة للقراءة وقابلة للاختبار تجريبيًا، ويمكن التحقق من تلك النظرية مقابل الواقع من خلال توليد تجارب جديدة عند الطلب.

بالنسبة لعلم الأعصاب على وجه التحديد، يشير GCT إلى طريقة أسرع وأكثر غنى بالفرضيات لرسم خريطة القشرة الدماغية: واحدة حيث يقترح نظام الذكاء الاصطناعي ما قد ترمز إليه منطقة دماغية وتؤكد تجربة ذات حلقة مغلقة ذلك أو ترفضه ضمن دراسة واحدة. نفس فلسفة التوليد والتحقق يمكن أن تمتد إلى مجالات أخرى حيث تفوقت النماذج التنبؤية القوية على قدرتنا على فهمها. الدرس الأوسع هو التفاؤل: صعود النماذج ذات الصندوق الأسود في العلم لا يعني بالضرورة تراجع النظرية القابلة للقراءة البشرية. مع الإطار الصحيح، يمكن للاثنين أن يتقدما معًا. open-by-design-ai2-brings-fully-open-ai-infrastructure-online-with-nsf-omai

كان هذا العمل تعاونًا عبر أبحاث مايكروسوفت وجامعة كاليفورنيا في بيركلي (Alex Huth وBin Yu وSihang Guo وAliyah Hsu) وجامعة كولومبيا (RJ Antonello، قائد مشارك) وجامعة كاليفورنيا في سان فرانسيسكو (Shailee Jain). تم نشر الورقة في Nature Neuroscience والكود متاح على GitHub.