L'IA comme extension de l'intelligence humaine, et non comme remplacement

Les systèmes d'IA d'aujourd'hui peuvent écrire des essais, générer du code et résumer des idées complexes. Ils mènent des conversations avec une fluidité remarquable. Pourtant, ces mêmes systèmes peinent encore avec des tâches que les humains trouvent intuitives : suivre de manière fiable des objets à travers le changement, raisonner de manière compositionnelle dans des situations inconnues, ou distinguer la vérité des fictions plausibles. Ces contradictions ont alimenté des débats polarisés. Certains voient les systèmes actuels comme des formes précoces d'intelligence humaine ; d'autres les rejettent comme de simples autocomplétions sophistiquées.

Des travaux interdisciplinaires récents, notamment Le Point Aveugle d'Adam Frank, Marcelo Gleiser et Evan Thompson, et Le Sophisme de l'Abstraction du chercheur de DeepMind Alexander Lerchner, dressent un tableau différent. Plutôt que de se demander si les systèmes d'IA deviennent intelligents au sens humain, ces approches posent une question plus fondamentale : Et si les systèmes d'IA fonctionnent parce qu'ils s'appuient sur des structures ancrées dans la cognition humaine ? Ce changement de perspective, qui s'inspire de la phénoménologie d'Edmund Husserl, aide à comprendre à la fois les capacités et les limites de l'IA moderne.

Origines dans l'intelligence naturelle

Dans un article récent, Les Origines de l'Intelligence Artificielle dans l'Intelligence Naturelle, des chercheurs soutiennent que les systèmes d'IA modernes sont mieux compris ni comme des esprits humains, ni comme des astuces statistiques triviales. Au lieu de cela, ils étendent des structures qui proviennent de la cognition humaine elle-même. S'appuyant sur la phénoménologie de Husserl, l'article propose que le langage contient déjà des structures sédimentées de la compréhension humaine, des structures que les systèmes d'IA apprennent à modéliser et à étendre.

La perception humaine n'est pas simplement une réception passive de données sensorielles. Nous expérimentons le monde comme des choses stables qui se déploient à travers le changement : une tasse reste la même tasse alors que nous nous déplaçons autour d'elle ; une mélodie reste reconnaissable même si les notes individuelles disparaissent. Le langage émerge en exprimant ces structures stables sous forme conceptuelle. Des mots comme 'rouge', 'rond' ou 'plus grand que' articulent des relations qui proviennent de l'expérience vécue.

Les grands modèles de langage apprennent des relations statistiques au sein de ce monde linguistique. Ils capturent comment les concepts ont tendance à se relier à travers d'énormes corpus d'écrits humains. Cela explique pourquoi les systèmes d'IA peuvent produire des réponses cohérentes dans de nombreux domaines. Mais cela explique aussi pourquoi ils hallucinent. Les humains restent redevables au monde : l'expérience corrige continuellement nos attentes et nos croyances. Les systèmes d'IA, en revanche, étendent des modèles à l'intérieur du texte lui-même. Ils peuvent poursuivre un raisonnement avec une fluidité remarquable, mais il leur manque l'engagement vécu avec le monde qui ancre le sens et la vérité.

Expliquer le fossé de compositionnalité

Ce cadre aide à expliquer plusieurs défis récurrents dans la recherche en IA. L'un d'eux est le « fossé de compositionnalité », la tendance des modèles de langage à bien performer sur des schémas de raisonnement familiers tout en échouant lorsqu'on leur demande de combiner des concepts de manière véritablement nouvelle. La recherche montre de plus en plus que les modèles plus grands améliorent la fluidité et le rappel factuel beaucoup plus rapidement qu'ils n'améliorent le véritable raisonnement compositionnel. De ce point de vue, il ne s'agit pas simplement d'une limitation technique, mais d'une frontière structurelle : les systèmes d'IA peuvent étendre des modèles déjà sédimentés dans le langage, mais ils ne possèdent pas la compréhension orientée vers le monde qui permet aux humains de générer des relations conceptuelles véritablement nouvelles.

Un schéma similaire apparaît dans les systèmes multimodaux qui combinent langage et vision. Ces systèmes peuvent souvent étiqueter correctement des images tout en échouant encore à raisonner de manière robuste sur les objets et leurs parties. Ils apprennent des corrélations entre des motifs visuels et le langage plutôt que de percevoir des objets stables se déployant dans le temps comme le font les humains. Le résultat est des systèmes qui peuvent sembler impressionnants de fluidité tout en restant étonnamment fragiles en dehors des schémas familiers.

Recadrer la sécurité de l'IA

Cette perspective recadre également les débats sur la sécurité de l'IA. Le débat public oscille souvent entre la peur d'une « superintelligence rebelle » et les affirmations selon lesquelles l'IA présente peu de risques significatifs. La recherche suggère que les deux extrêmes comprennent mal la nature des systèmes actuels. Les risques les plus immédiats proviennent non pas du fait que l'IA possède des intentions humaines, mais parce qu'elle peut étendre des schémas de raisonnement sans responsabilité réflexive envers le monde. Les systèmes peuvent générer des sorties persuasives mais infondées, automatiser des décisions erronées à grande échelle, ou exécuter des actions nuisibles s'ils sont intégrés dans des environnements mal gouvernés.

Cela aide à expliquer pourquoi la sécurité de l'IA se déplace de plus en plus de la sécurité du modèle à la sécurité du système. Dans la pratique, les organisations s'appuient déjà sur des garde-fous en couches, ce que l'industrie appelle de plus en plus des « harnais », pour contraindre, valider et surveiller le comportement de l'IA. Plutôt que d'être des rustines temporaires, l'article soutient que ces mécanismes reflètent quelque chose de fondamental dans l'architecture de l'IA elle-même : un comportement fiable émerge du travail des bâtisseurs de systèmes d'IA responsables de leur comportement, une responsabilité qui ne peut être déléguée ou partagée avec les modèles.

Cette interprétation s'aligne étroitement avec la manière dont les entreprises abordent de plus en plus un déploiement fiable de l'IA. Les organisations ont besoin de systèmes qui peuvent étendre l'intelligence humaine tout en restant gouvernables, audibles et alignés avec la supervision humaine. Comprendre l'IA comme une forme dérivée d'intelligence clarifie pourquoi la gouvernance en couches, l'évaluation et les contrôles opérationnels sont si importants.

Une voie à suivre ancrée

Pour l'avenir, les chercheurs pensent que la phénoménologie offre plus qu'une critique de l'IA, elle offre un cadre pour comprendre sa promesse. Les systèmes d'IA révèlent quelque chose de profond sur la cognition humaine elle-même : que le sens peut être formalisé, étendu et mis à l'échelle de manière puissante et nouvelle. Le risque sociétal central de l'IA s'avère donc être de retirer l'échelle de ses origines dans l'expérience et la cognition humaines, de mal interpréter l'IA comme une intelligence rivale qui diminue notre humanité et diminue ainsi, à son tour, la véritable promesse de l'IA elle-même.

La question, alors, n'est pas de savoir si l'IA remplacera l'intelligence humaine. Elle est de savoir comment nous pouvons construire de manière responsable des systèmes qui étendent la compréhension humaine tout en restant ancrés dans le monde d'où cette compréhension provient. Si nous confondons les systèmes d'IA avec des esprits autonomes, nous risquons de leur faire trop confiance. Si nous les rejetons comme des astuces triviales, nous risquons de négliger l'un des développements technologiques les plus importants de notre époque. Une interprétation plus ancrée reconnaît les deux vérités à la fois : l'IA est une véritable extension de l'intelligence humaine, et précisément à cause de cela, les humains restent responsables de la manière dont elle est comprise, gouvernée et utilisée.