La nouvelle méthode de Microsoft transforme les IA cérébrales en boîte noire en théories lisibles

Depuis près d'une décennie, les grands modèles de langage sont les outils les plus précis pour prédire comment le cerveau humain répond au langage. Donnez à un LLM la même histoire qu'une personne entend dans un scanner IRMf, et les représentations internes du modèle peuvent prédire l'activité de zones individuelles du cortex avec une fidélité remarquable. Mais personne ne peut lire ces modèles. Ce sont des masses vastes et indéchiffrables de paramètres qui défient toute traduction directe en interprétation. Un modèle qui prévoit l'activité cérébrale pourrait vous dire qu'une région répond au langage, mais il ne peut pas dire si cette réponse concerne la nourriture, les lieux, les nombres ou quelque chose d'autre. Alors que les modèles en boîte noire prolifèrent, le fossé entre la prédiction et la compréhension est devenu l'une des énigmes centrales des neurosciences computationnelles. llms-corrupt-your-documents-when-you-delegate-a-close-look-at-the-delegate-52-benchmark

Transformer les boîtes noires en théories testables

Dans un article accepté par Nature Neuroscience, des scientifiques de Microsoft Research, en collaboration avec des collègues de UC Berkeley, UCSF et de l'Université de Columbia, ont proposé une issue à cette crise de l'explicabilité. Leur cadre, le test causal génératif (GCT), distille les modèles de prédiction cérébrale en comptes rendus courts et lisibles de ce à quoi chaque zone du cortex répond, puis teste ces comptes rendus. Un LLM écrit de nouvelles histoires conçues pour activer une zone cérébrale spécifique. Les sujets écoutent ces histoires dans le scanner. Si l'explication est correcte, la région ciblée s'illumine. Le résultat est une méthode qui traduit les modèles prédictifs ininterprétables en retour vers la monnaie de la science : des hypothèses concises qui peuvent être confirmées ou réfutées dans une expérience de suivi. ai-as-an-extension-of-human-intelligence-not-a-replacement

Comment fonctionne le GCT

Le GCT se déroule en deux étapes : explication, puis vérification. Pour générer une explication, la méthode commence par un modèle prédictif pour un seul voxel ou une seule région et identifie les phrases courtes qui stimulent le plus fortement sa réponse prédite. Un LLM résume ensuite ces mots en une explication verbale concise, souvent une seule phrase telle que « préparation de nourriture » ou « noms de lieux ».

La deuxième étape cruciale ferme la boucle. Pour établir la confiance dans cette explication, le GCT utilise un LLM pour écrire de nouvelles histoires dans lesquelles chaque paragraphe est soigneusement construit pour activer une région cérébrale selon son explication. Trois sujets sont retournés dans le scanner pour lire ces histoires synthétiques. Si l'activité d'une région à ses paragraphes « moteurs » était significativement supérieure à celle du texte de base, l'explication a passé un véritable test causal, et non simplement corrélationnel. ifbench-the-new-benchmark-testing-ai-instruction-following

Chez les trois sujets, l'approche centrale a tenu : les histoires synthétiques ont activé de manière fiable leurs régions cibles au-dessus de la ligne de base, confirmant que les courtes explications du GCT capturent quelque chose auquel le cortex répond véritablement. Les explications étaient également les plus dignes de confiance là où les modèles de prédiction cérébrale sous-jacents étaient les plus forts : plus le modèle était stable, plus son explication pouvait être confirmée de manière fiable dans le scanner. Une fois la méthode validée sur des régions dont la sélectivité était déjà connue, les chercheurs ont orienté le GCT vers des questions plus difficiles.

Le GCT s'est également avéré suffisamment précis pour résoudre des ambiguïtés de longue date. Trois régions voisines impliquées dans le traitement des lieux : le cortex rétrosplénial (RSC), l'aire parahippocampique des lieux (PPA) et l'aire occipitale des lieux (OPA), ont souvent été traitées comme fonctionnellement similaires. Au début, les histoires écrites pour une région activaient également les autres. Mais en générant des stimuli différentiels, des histoires conçues pour activer une région tout en maintenant ses voisines silencieuses, le GCT a séparé les trois. Par exemple, le RSC répond plus fortement aux noms de lieux propres, comme Tokyo ou Connecticut, plutôt qu'aux lieux généraux. C'est le genre de théorie nuancée et spécifique à une région qu'un modèle prédictif brut ne peut pas fournir seul.

Au-delà des régions connues, les auteurs ont découvert de nouvelles « micro-régions » préfrontales. En scannant une grille d'emplacements candidats et en ne conservant que les plus stables, le GCT a fait surface ces régions auparavant non cartographiées, accordées à des concepts remarquablement spécifiques : une sélective pour le dialogue entre personnes (mots comme « dit » ou « raconté »), une pour les mentions d'heures d'horloge (« une heure »), et une pour les mesures numériques (« 50 pieds »). Ce sont des distinctions que personne n'était allé chercher ; elles ont émergé parce que la méthode pouvait proposer une hypothèse et la tester immédiatement. microsofts-phi-4-achieves-state-of-the-art-efficiency-in-new-research-paper

Implications et perspectives

La portée du GCT dépasse largement les neurosciences. Les chercheurs de nombreux domaines sont de plus en plus confrontés au même dilemme : un modèle qui prédit magnifiquement mais n'explique rien. Le GCT montre qu'un modèle basé sur les données ne doit pas être la fin de l'enquête. Il peut être distillé en une théorie lisible et expérimentalement testable, et cette théorie peut être vérifiée par rapport à la réalité en générant de nouvelles expériences à la demande.

Pour les neurosciences en particulier, le GCT pointe vers un moyen plus rapide et plus riche en hypothèses de cartographier le cortex : un où un système d'IA propose ce qu'une région cérébrale pourrait encoder et une expérience en boucle fermée le confirme ou le rejette dans une seule étude. La même philosophie de génération et de vérification pourrait s'étendre à d'autres domaines où des modèles prédictifs puissants ont dépassé notre capacité à les comprendre. La leçon plus large est encourageante : l'essor des modèles en boîte noire dans la science ne signifie pas nécessairement le recul de la théorie lisible par l'homme. Avec le bon cadre, les deux peuvent progresser ensemble. open-by-design-ai2-brings-fully-open-ai-infrastructure-online-with-nsf-omai

Ce travail a été une collaboration entre Microsoft Research, UC Berkeley (Alex Huth, Bin Yu, Sihang Guo et Aliyah Hsu), l'Université de Columbia (RJ Antonello, co-lead) et UCSF (Shailee Jain). L'article est publié dans Nature Neuroscience et le code est disponible sur GitHub.