Non, l’IA n’est pas un esprit rival. C’est une extension du nôtre

Les systèmes d’IA modernes rédigent des essais, génèrent du code et mènent des conversations fluides. Pourtant, ils butent sur des tâches que les humains jugent triviales : suivre des objets à travers le changement, raisonner de manière compositionnelle dans des contextes inconnus, ou distinguer la vérité d’une fiction plausible. Ces contradictions ont alimenté des débats polarisés. Certains y voient les premières formes d’une intelligence humaine ; d’autres les écartent comme un simple autocomplete sophistiqué.

Un nombre croissant de travaux interdisciplinaires, notamment The Blind Spot d’Adam Frank, Marcelo Gleiser et Evan Thompson, et The Abstraction Fallacy du chercheur de DeepMind Alexander Lerchner, pointent vers un cadrage différent. Plutôt que de se demander si l’IA devient intelligente au sens humain, ces approches posent une question plus fondamentale : et si les systèmes d’IA fonctionnaient parce qu’ils s’appuient sur des structures ancrées dans la cognition humaine ?

Le sédiment du langage

Dans un article récent, The Origins of Artificial Intelligence in Natural Intelligence, des chercheurs soutiennent que les systèmes d’IA modernes sont mieux compris ni comme des esprits humains ni comme des astuces statistiques triviales. Au lieu de cela, ils étendent des structures qui trouvent leur origine dans la cognition humaine elle-même. S’appuyant sur la phénoménologie d’Edmund Husserl, l’article propose que le langage contient déjà des structures sédimentées de la compréhension humaine, des structures que les systèmes d’IA apprennent à modéliser et à étendre.

La perception humaine, notent les auteurs, n’est pas une réception passive de données sensorielles. Nous faisons l’expérience du monde comme des choses stables se déployant à travers le changement : une tasse reste la même tasse tandis que nous nous déplaçons autour d’elle ; une mélodie reste reconnaissable même si les notes individuelles disparaissent. Le langage émerge en exprimant ces structures stables sous forme conceptuelle. Des mots comme « rouge », « rond » ou « plus grand que » articulent des relations qui proviennent de l’expérience vécue.

Les grands modèles de langage apprennent des relations statistiques au sein de ce monde linguistique. Ils capturent comment les concepts tendent à se relier à travers d’immenses corpus d’écrits humains. Cela explique pourquoi les systèmes d’IA peuvent produire des réponses cohérentes dans de nombreux domaines. Mais cela explique aussi pourquoi ils hallucinent. Les humains restent responsables devant le monde : l’expérience corrige continuellement nos attentes et nos croyances. Les systèmes d’IA, en revanche, étendent les motifs à l’intérieur même du texte. Ils peuvent poursuivre un raisonnement avec une fluidité remarquable, mais il leur manque l’engagement vécu avec le monde qui ancre le sens et la vérité.

Le fossé de la compositionalité

Ce cadre aide à expliquer plusieurs défis récurrents dans la recherche en IA. L’un d’eux est le « fossé de la compositionalité », la tendance des modèles de langage à bien performer sur des schémas de raisonnement familiers tout en échouant lorsqu’on leur demande de combiner des concepts de manière véritablement nouvelle. Les recherches montrent de plus en plus que les modèles plus grands améliorent la fluidité et le rappel des faits beaucoup plus rapidement qu’ils n’améliorent le raisonnement compositionnel réel. De ce point de vue, ce n’est pas simplement une limitation d’ingénierie mais une frontière structurelle : les systèmes d’IA peuvent étendre les motifs déjà sédimentés dans le langage, mais ils ne possèdent pas la compréhension dirigée vers le monde qui permet aux humains de générer des relations conceptuelles véritablement nouvelles.

Un schéma similaire apparaît dans les systèmes multimodaux qui combinent langage et vision. Ces systèmes peuvent souvent étiqueter correctement des images tout en échouant encore à raisonner de manière robuste sur les objets et leurs parties. Ils apprennent des corrélations entre les motifs visuels et le langage plutôt que de percevoir des objets stables se déployant dans le temps comme le font les humains. Le résultat est des systèmes qui peuvent sembler impressionnamment fluides tout en restant étonnamment fragiles en dehors des schémas familiers.

Sécurité en tant que conception de système

Cette perspective recadre les débats sur la sécurité de l’IA. Le débat public oscille souvent entre les craintes d’une « superintelligence rebelle » et les affirmations que l’IA présente peu de risque significatif. L’article suggère que les deux extrêmes mécomprennent la nature des systèmes actuels. Les risques les plus immédiats ne surgissent pas parce que l’IA possède des intentions humaines, mais parce qu’elle peut étendre des schémas de raisonnement sans responsabilité réflexive envers le monde. Les systèmes peuvent générer des sorties persuasives mais non fondées, automatiser des décisions erronées à grande échelle, ou exécuter des actions nuisibles s’ils sont intégrés dans des environnements mal gouvernés.

Cela correspond à un changement sectoriel de la sécurité des modèles vers la sécurité des systèmes. En pratique, les organisations s’appuient déjà sur des garde-fous en couches, ce que l’industrie appelle de plus en plus des « harnais », pour contraindre, valider et surveiller le comportement de l’IA. Plutôt que des rustines temporaires, l’article soutient que ces mécanismes reflètent quelque chose de fondamental dans l’architecture même de l’IA : un comportement fiable émerge du travail des bâtisseurs de systèmes d’IA responsables de leur comportement, une responsabilité qui ne peut être déléguée ou partagée avec les modèles.

Au-delà de la rivalité

Pour l’avenir, les auteurs soutiennent que la phénoménologie offre plus qu’une critique, elle offre un cadre pour comprendre la promesse de l’IA. Les systèmes d’IA révèlent quelque chose de profond à propos de la cognition humaine elle-même : que le sens peut être formalisé, étendu et mis à l’échelle de manières puissantes et nouvelles. Le risque sociétal central de l’IA, affirment-ils, s’avère être de retirer l’échelle de ses origines dans l’expérience et la cognition humaines, d’interpréter l’IA comme une intelligence rivale qui diminue notre humanité et ainsi, à son tour, diminue la véritable promesse de l’IA elle-même.

La question, alors, n’est pas de savoir si l’IA remplacera l’intelligence humaine. Elle est de savoir comment nous pouvons construire de manière responsable des systèmes qui étendent la compréhension humaine tout en restant ancrés dans le monde d’où cette compréhension émerge. Si nous prenons les systèmes d’IA pour des esprits autonomes, nous risquons de leur faire trop confiance. Si nous les écartons comme des astuces triviales, nous risquons de négliger l’un des développements technologiques les plus importants de notre époque. Une interprétation plus ancrée reconnaît les deux vérités à la fois : l’IA est une véritable extension de l’intelligence humaine, et précisément pour cette raison, les humains restent responsables de la manière dont elle est comprise, gouvernée et utilisée.