L'IA en neurosciences qui explique enfin ce que font réellement les parties du cerveau

Depuis des années, les outils les plus précis pour prédire comment le cerveau humain réagit au langage sont les grands modèles de langage. Nourrissez un LLM avec la même histoire qu'une personne entend dans un scanner IRMf, et les représentations internes du modèle peuvent prédire l'activité de zones individuelles du cortex avec une fidélité remarquable. Mais ce succès s'accompagne d'un inconvénient illisible : ces modèles sont de vastes ensembles de paramètres appris, non des théories scientifiques interprétables. Un modèle qui prédit l'activité cérébrale indique aux chercheurs qu'une région répond au langage, mais pas ce qu'elle capte réellement, qu'il s'agisse de nourriture, de lieux, de chiffres ou de tout autre chose. Alors que les modèles boîte noire se répandent, l'écart entre prédiction et compréhension est devenu l'un des problèmes centraux des neurosciences computationnelles. the-quiet-finding-on-chain-of-thought-monitoring-that-should-worry-frontier-labs

Dans un nouvel article accepté dans Nature Neuroscience, des scientifiques de Microsoft Research, de l'Université de Californie à Berkeley, de l'Université de Californie à San Francisco et de l'Université Columbia présentent un cadre conçu pour résoudre ce problème : le test causal génératif (GCT). La méthode distille les modèles de prédiction cérébrale en comptes rendus courts et lisibles de ce à quoi chaque zone du cortex répond. Ensuite, elle teste ces affirmations en faisant rédiger par un LLM de nouvelles histoires conçues pour activer une zone cérébrale spécifique. Les sujets entendent les histoires dans le scanner. Si l'explication est correcte, la région ciblée s'active. Le résultat est un moyen de traduire les modèles prédictifs non interprétables en la monnaie de la science : des hypothèses concises qui peuvent être confirmées ou réfutées dans une expérience de suivi. nvidias-nemotron-data-atlas-reveals-why-synthetic-data-is-the-real-agent-bottleneck

Comment fonctionne le GCT : explication, puis vérification

Le GCT se déroule en deux étapes. D'abord, pour générer une explication, la méthode part d'un modèle prédictif pour un seul voxel ou une région, et identifie les courtes phrases qui activent le plus sa réponse prédite. Un LLM résume ensuite ces mots en une explication verbale concise, souvent une phrase unique comme « préparation des aliments » ou « noms de lieux ». La deuxième étape boucle la boucle. Pour renforcer la confiance dans l'explication, le GCT utilise un LLM pour rédiger de nouvelles histoires où chaque paragraphe est soigneusement construit pour activer une région cérébrale selon son explication. Trois sujets sont retournés dans le scanner pour lire ces histoires synthétiques. Si l'activité d'une région pour ses paragraphes moteurs était significativement supérieure à celle du texte de base, l'explication passait un véritable test causal, pas seulement corrélationnel.

Chez les trois sujets, l'approche centrale a tenu. Les histoires synthétiques ont activé de manière fiable leurs régions cibles au-dessus du seuil de base, confirmant que les courtes explications du GCT capturent quelque chose auquel le cortex répond réellement. Les explications étaient également les plus fiables là où les modèles de prédiction cérébrale sous-jacents étaient les plus solides : plus le modèle était stable, plus son explication pouvait être confirmée de manière fiable dans le scanner. the-verification-horizon-why-rewarding-coding-agents-is-getting-harder

Affiner la carte des régions de traitement des lieux

Une fois la méthode validée sur des régions dont la sélectivité était déjà connue, les chercheurs se sont tournés vers des questions plus difficiles. Trois régions voisines impliquées dans le traitement des lieux ont souvent été considérées comme fonctionnellement similaires : le cortex rétrosplénial (RSC), l'aire parahippocampique des lieux (PPA) et l'aire occipitale des lieux (OPA). Au début, les histoires écrites pour une région activaient également les autres. Mais en générant des stimuli différentiels, des histoires conçues pour activer une région tout en maintenant ses voisines silencieuses, l'équipe a distingué les trois. Par exemple, le RSC répond plus fortement aux noms de lieux propres, comme Tokyo ou Connecticut, plutôt qu'aux descriptions générales de lieux. C'est le type de théorie nuancée et spécifique à une région qu'un modèle prédictif brut ne peut pas fournir seul. beyond-copy-paste-scaling-dataset-distillation-with-m3d-and-real-guidance-for-high-resolution-efficiency

Découverte de nouvelles micro-régions préfrontales

Au-delà des régions connues, les auteurs ont découvert de nouvelles micro-régions préfrontales qui n'avaient pas été cartographiées auparavant. En scannant une grille de candidats et en ne conservant que les plus stables, le GCT a mis en lumière ces zones accordées à des concepts remarquablement spécifiques : une sélective pour le dialogue entre personnes (mots comme « dit » ou « raconta »), une pour les mentions d'heures d'horloge (« une heure »), et une pour les mesures numériques (« 50 pieds »). Ce sont des distinctions que personne n'était allé chercher ; elles ont émergé parce que la méthode pouvait proposer une hypothèse et la tester immédiatement.

Implications pour les neurosciences et au-delà

La portée du GCT dépasse les neurosciences. Les chercheurs dans des domaines allant de la génomique à la science du climat sont de plus en plus confrontés au même dilemme : un modèle qui prédit magnifiquement mais n'explique rien. Le GCT montre qu'un modèle basé sur les données ne doit pas être la fin de l'enquête. Il peut être distillé en une théorie lisible et expérimentalement testable, et cette théorie peut être vérifiée par rapport à la réalité en générant de nouvelles expériences à la demande. Pour les neurosciences en particulier, le GCT pointe vers une manière plus rapide et plus riche en hypothèses de cartographier le cortex : un système d'IA propose ce qu'une région cérébrale pourrait encoder, et une expérience en boucle fermée la confirme ou la rejette en une seule étude. La leçon plus large est que l'essor des modèles boîte noire en science ne doit pas signifier la fin de la théorie lisible par l'homme. Avec le cadre approprié, les deux peuvent progresser ensemble. new-framework-lets-robots-adapt-to-novel-environments-without-retraining