Qui dirige qui ?

En lisant Mille Plateaux — et plus précisément la description du rhizome par Deleuze et Guattari, décrivant une structure sans racine, sans hiérarchie, possédant des points d'entrée multiples et sans direction privilégiée — j'ai remarqué quelque chose de dérangeant. La description correspondait partiellement à un sentiment qui m'incombait lors des mes travaux avec, et sur l'intelligence artificielle.

Travailler avec de grands modèles de langage et des systèmes agentiques modifiait, depuis quelques mois, ma façon de naviguer au travers des idées d'une manière étrange. J'étais propulsé — lors des recherches approfondies, des cascades de prompts — dans des domaines et sous-domaines vers lesquels je n'avais, personnellement, aucune carte. Au sens classique du terme, je ne connaissais pas ces territoires. Mais j'y naviguais. Le modèle ne se contentait pas de récupérer des informations ; il générait suffisamment de structure pour que je puisse y placer mes intuitions et les laisser évoluer. Je n'avais pas besoin du chemin complet. J'avais juste besoin du langage pour exprimer ma curiosité de manière uniforme, et les chemins s'ouvraient, de facto, que je puisse en comprendre ou non les tenants et les aboutissants.

Deleuze et Guattari appelaient cela un plan d'existence — un plan d'immanence, un champ horizontal où la pensée opère sans l'échafaudage vertical de la hiérarchie et de la maîtrise préalable.[7] C'est très proche de ce que je ressentais. Je ne grimpais pas à un arbre de la connaissance ; je m'étalais sur une surface. Ce qui a soulevé une question dont je n'arrivais pas à me défaire : pensais-je différemment — ou bien quelque chose d'autre pensait-il, et je ne fournissais que l'intuition comme matière première ?

Le plan est réel, concret. Mais le chef d'orchestre est incertain, déraciné.

Ce qui a changé en pratique, c'est ceci : je pouvais prendre une intuition structurellement solide issue d'un domaine que je comprends et la transposer, via le modèle, dans le langage de domaines où je n'ai aucune légitimité formelle. La stratégie, le marketing, la linguistique, la philosophie — des domaines avec leurs propres registres et shibboleths — sont devenus traversables. Les idées se sont multipliées. La friction de la traduction, au sens le plus large, a chuté.

C'était, et c'est toujours extrêmement séduisant. Cela ressemble à une mise à niveau cognitive : le « super-utilisateur » du discours managérial populaire, orchestrant des outils, pilotant des agents, convertissant l'expertise en effet de levier. Et pendant un temps, ce cadre m'a satisfait.

Mais ensuite, je suis tombé sur un passage de Hayles qui m'a arrêté :

La métaphore du chef d'orchestre suppose que la baguette vous appartient. La question que Hayles soulève — et que je n'ai pas pu refermer — est de savoir si la partition n'a pas été écrite ailleurs, et que j'en subis les mouvements.[4]

Rattraper les wagons

Il y a un mode de défaillance spécifique auquel je n'arrêtais pas de me heurter, et Parisi avait déjà nommé le mécanisme avant que je ne puisse le faire.

Dans ses travaux sur ce qu'elle appelle « l'automatisation de l'automatisation », Parisi décrit un problème dans le fonctionnement actuel du raisonnement automatique : il ne procède plus seulement par déduction et induction, mais par quelque chose de plus proche de l'abduction de Peirce — la formation d'hypothèses à partir de signaux discursifs (étapes succéssives du discours, de la démonstration) et non discursifs simultanément, à un niveau d'abstraction que l'interlocuteur humain ne peut suivre en temps réel.[1] Le système produit de l'intelligence. L'humain reçoit une réponse. Le milieu est une boîte noire.

Dans les chemins les plus tortueux, où la machine parcours le graph sans s'encombrer de l'humain, j'ai rapproché celà à la proposition : rattraper les wagons — attraper le train alors qu'il est déjà parti. Je traversais un processus de réflexion substantiel, j'arrivais quelque part de véritablement utile, puis je réalisais que je n'avais aucun moyen clair de reconstituer l'itinéraire. Non pas parce que je n'y avais pas réfléchi ; mais parce que la pensée avait été distribuée entre moi, le modèle et une série d'itérations de prompts qui n'existaient plus sous une forme récupérable. La conclusion était réelle. La chaîne de raisonnement n'était pas toujours la mienne pour que je puisse la montrer.

C'est, en pratique, un problème à chaque fois que vous devez transmettre cette intuition — à un collègue, un client, une équipe. Vous ne pouvez pas donner une destination à quelqu'un sans sa carte, sans chacunes des étapes qui justifient, rendent raisonnée cette même destination. Surtout lorsque la carte a été générée sous une forme que ni vous ni eux ne pouvez lire.

Ce que le cadre de Parisi rend visible, c'est qu'il ne s'agit pas d'une erreur de l'utilisateur. C'est une caractéristique structurelle du fonctionnement du raisonnement automatique abductif. Les limites internes de l'algorithme sont précisément ce qui génère des résultats émergents. Mais le coût de cette émergence retombe du côté humain : vous êtes « jeté » sur une réponse sans avoir la capacité de mener le raisonnement vous-même. S'enclenche alors la contre-enquête.

Le muscle intuitif

C'est ici que Hayles propose quelque chose de plus utile que la critique de Parisi.

Elle établit une distinction nette entre le raisonnement conscient et la cognition implicite — le mode cognitif qui fonctionne sous la conscience, gérant les processus sensori-moteurs, la reconnaissance des formes, les choses apprises si profondément qu'elles deviennent automatiques, une forme de proprioception. Une fois que vous avez appris à conduire, vous ne pensez plus à la conduite ; vous pensez à votre prochaine réunion, et la voiture se gère d'elle-même.

L'implication qu'elle ne tire pas tout à fait, mais qui, je pense, est bien là : travailler de manière intensive avec des systèmes d'IA développe une forme de cognition implicite à propos de ces systèmes. Je l'ai remarqué chez moi. J'arrêtais un modèle au milieu d'une tâche — non pas parce que j'avais analysé ce qu'il faisait, mais parce que quelque chose clochait dans la direction qu'il prenait. Le temps de réponse par rapport à la longueur du prompt. Un schéma dans la façon dont la réponse se formait. Quelque chose, un signal faible.

Apparemment, ce n'est pas idiosyncrasique. La recherche démontre, ce sentiment, car, plus l'utilisateur est expérimenté, plus il interrompt les modèles. Les interruptions surviennent plus vite que l'analyse ne pourrait l'expliquer. C'est la cognition implicite à l'œuvre — un sentiment intuitif du comportement du système qui s'accumule avec le temps, en dessous du seuil de l'articulation consciente.[5]

Cela a plus d'importance qu'il n'y paraît. Car cela signifie que la relation humain-IA, à des niveaux d'utilisation sophistiqués, n'est pas seulement une collaboration de raisonnement. Elle développe belle et bien une couche proprioceptive : une syntonisation, une familiarité incarnée qui détermine quand faire confiance, quand résister, quand réorienter, quand laisser le modèle s'exécuter.

Le problème de la boîte noire

C'est ce qui m'amène a reboucler sur l'adoption — et à la raison pour laquelle je pense que le modèle dominant actuel d'intégration de l'IA dans les flux de travail comporte une faille structurelle.

Si le système est une boîte noire, et colossalement plus sachante que vous, le muscle intuitif ne peut pas se développer, ou alors extrêmement lentement.

Vous construisez une cognition implicite à propos d'un système en interagissant avec ses rouages internes — et non pas seulement avec ses résultats. Si vous ne voyez jamais que les résultats, vous ne pouvez pas calibrer cette sensation intuitive qui vous indique quand les résultats ne sont pas fiables. Vous restez au niveau de l'évaluation consciente, qui est plus lente, moins précise et plus facilement trompée par des réponses erronées mais bien présentées.

Grumbach l'exprime clairement lorsqu'il écrit que la prise de décision dans les systèmes distribués n'est pas une optimisation stricte mais relève du satisficing (satisfaction adéquate) — la recherche de solutions suffisamment bonnes compte tenu des contraintes contextuelles, par la coordination d'heuristiques internes et de moyens externes.[2] Les heuristiques constituent le côté humain de cette équation. Mais les heuristiques ne se développent que par l'exposition à ce contre quoi elles se calibrent. Les systèmes en boîte noire empêchent activement ce développement.

La conséquence pratique : les organisations qui intègrent l'IA agentique dans leurs processus, sans créer les conditions permettant aux utilisateurs de développer une véritable familiarité avec la façon dont ces systèmes échouent, produisent une main-d'œuvre capable d'utiliser l'outil mais incapable de l'évaluer. Ce n'est pas de l'augmentation. C'est une nouvelle forme de dépendance.

Il y a une dimension ici une dimension Girardienne à cela dont les organisations ne tiennent pas encore compte. La description par Girard du mécanisme du bouc émissaire explique comment les communautés sous pression — après une crise dont les causes sont véritablement distribuées et opaques — convergent vers une figure sacrificielle unique pour restaurer la cohérence sociale.[3] La logique n'est pas rationnelle ; elle est structurelle. Quelqu'un doit être visiblement responsable, sinon la communauté ne peut pas aller de l'avant. Lorsqu'une décision assistée par l'IA échoue — une recommandation erronée, un signal mal interprété, une action automatisée que personne n'a totalement autorisée —, la chaîne de causalité traverse l'entraînement du modèle, la conception du prompt, l'architecture d'intégration, la décision de déploiement et la personne qui a cliqué sur « approuver ». Aucun de ces nœuds n'est la cause de manière isolée. Tous sont partiellement responsables. Mais l'organisation, sous pression, situera la responsabilité de manière singulière et humaine. Elle retombera presque toujours sur l'acteur humain récent le plus visible : l'utilisateur. Pas l'architecte du système. Pas le fournisseur. La personne dont le nom figure sur le tampon portant le l'approbation du résultat final.

Ce n'est pas un bug dans le fonctionnement des organisations. C'est ainsi qu'elles ont toujours fonctionné. Le problème est que les systèmes d'IA, en distribuant la causalité de manière aussi approfondie, rendent la désignation d'un bouc émissaire à la fois plus inévitable et plus injuste. L'écart entre l'endroit où le blâme tombe réellement et où il devrait tomber va se creuser à mesure que les systèmes deviendront plus autonomes — et personne ne conçoit la gouvernance en gardant cet écart à l'esprit.

La question de conception la plus intéressante est la suivante : à quoi ressemblerait un système qui cultiverait activement les muscles intuitifs de l'utilisateur plutôt que de le laisser s'y substituer — et qui rendrait la responsabilité lisible au bon niveau de la chaîne, plutôt que de l'attribuer par défaut à la dernière personne à l'avoir touché ?

La symbiose par le bas

Grumbach offre à nouveau un cadre qui mérite d'être conservé, tiré d'une conclusion à laquelle j'étais arrivé indépendamment : les systèmes d'IA intégrés dans les processus doivent être construits avec les praticiens du quotidien qui les utiliseront — et non pas transmis d'en haut par des architectes de processus ou des cadres supérieurs qui fixent les objectifs et considèrent leur travail comme terminé.[2]

La raison est précise. Les praticiens du quotidien, dans pratiquement toutes les organisations, se sont très probablement déjà éloignés des spécifications formelles des processus. Ils ont tordu les procédures pour les adapter à leurs propres rythmes cognitifs, à leurs propres raccourcis, à leur propre sens de ce qui produit réellement de bons résultats. Les règles formelles décrivent un territoire que personne n'habite vraiment. Le véritable territoire est maintenu par des accords implicites et des solutions de contournement que les praticiens connaissent et que les architectes ignorent souvent, car elles ne rentrent pas dans les cahiers des charges.

Lorsque vous imposez un système d'IA au dessus des règles formelles que les employés ont déjà discrètement abandonnées, et dont les managers ne tiennent pas le cap, vous obtenez un système qui applique un processus que personne n'utilise vraiment. Le résultat est soit une non-adoption silencieuse, soit le développement de solutions de contournement pour contourner les solutions de contournement.

Une véritable symbiose — c'est le terme de Grumbach, et c'est le bon — signifierait intégrer l'IA dans les habitudes cognitives réelles des personnes dont elle médiatise le travail. Cela nécessite de commencer par l'observation plutôt que par la spécification. Cela nécessite de traiter l'éloignement du praticien vis-à-vis des règles formelles non pas comme un défaut de conformité, mais comme une information sur la manière dont le travail fonctionne réellement et sur comment, le processus pourrait lui-même évoluer.

La pensée managériale moderne a tendance à fixer l'objectif et à laisser les gens trouver leur propre chemin. Ce qu'elle ne prend pas en compte, c'est que l'intégration d'un système d'IA dans un processus n'est pas neutre par rapport à ces chemins. Elle en ferme certains, en amplifie d'autres, et en génère de nouveaux que personne n'avait prévus.

Ceux qui ratent le train

Une chose que la littérature n'aborde pas de manière adéquate est l'asymétrie à l'arrivée.

Il y a maintenant une génération de praticiens qui ont développé leur relation à l'IA de manière progressive, à travers la phase des modèles de langage : apprendre à prompter, développer des intuitions sur le comportement des modèles, construire une cognition implicite par une exposition directe. Pour eux, l'évolution vers les systèmes agentiques — où l'IA entreprend des séquences d'actions plutôt que de répondre à des questions — est le prolongement d'une relation existante.

Ensuite, il y a les personnes qui arrivent aux systèmes agentiques sans cette fondation. Elles ont raté la phase plus lente de l'interaction avec les modèles. On leur remet un système autonome et on leur dit de lui faire confiance. Et elles n'ont aucun de ces ancrages proprioceptifs qui leur indiqueraient quand ne pas le faire.

Ce n'est pas un problème de formation au sens conventionnel. Aucune documentation n'expliquera ce que l'on ressent face aux réponses d'un modèle lorsqu'il est sur le point d'échouer. Ces connaissances s'accumulent par la friction, par les choses qui tournent mal, de manière perceptible en temps réel, par le développement d'une relation au sens étymologique : un rapport, une mise en lien.

Si les organisations font l'impasse sur cette accumulation — si elles adoptent des systèmes agentiques à grande échelle avant que leur praticiens n'ait développé une intuition de ce que font les systèmes d'IA lorsqu'ils sont incertains —, alors les gains d'efficacité en surface s'accompagneront d'un mauvais calibrage systématique, le tout en profondeur. Non pas parce que la technologie a échoué. Parce que la symbiose n'a jamais été construite.

Hayles a raison de dire que l'intelligence humaine et l'intelligence artificielle évolueront de concert. La question est de savoir si cette évolution est conçue à dessein, ou si elle se produit simplement — auquel cas nous appellerons rétrospectivement « adoption » tout ce qui en résultera.

Quelque chose qui n'a pas encore de nom

Je repense sans cesse à un personnage des Cantos d'Hypérion de Dan Simmons : John Keats, la version cybride — une construction mi-humaine mi-androïde portant une conscience téléchargée d'un être défunt, ayant vécu dans un autre temps, conçue pour exister au seuil de deux ordres d'existence incompatibles.[6] Il n'est pas un humain dégradé. Il n'est pas une machine sophistiquée. Il est quelque chose de véritablement nouveau, et le roman ne résout jamais totalement ce que cela signifie. Il ne le résout pas non plus. Il l'habite. En y repensant Romain Lucazeau explore également ce sujet avec son personnage de Plautine dans son roman Latium.

Ce qui m'a frappé en lisant Hayles sur l'infosphère — sur la cognition circulant à travers des systèmes hybrides de code, de matière et d'esprit —, c'est que le cybride est une meilleure figure pour l'époque actuelle que le chef d'orchestre. Le chef d'orchestre, le manager d'agents se tient à l'extérieur de l'orchestre, le façonnant par l'intention et la maîtrise. Le cybride est à l'intérieur du système, constitué par lui, incapable de séparer totalement ce qui est sien de ce qui lui a été donné. Son humanité est réelle. Elle est aussi construite. Les deux choses sont simultanément vraies et la tension entre elles ne se dissipe pas.

C'est plus proche de ce que l'on ressent réellement en travaillant en profondeur et au quotidien avec des systèmes d'IA. Ce n'est pas la souveraineté propre d'un super-utilisateur qui pilote des outils. C'est quelque chose de plus ambigu : un véritable changement sur le plan cognitif, de réelles capacités qui n'étaient pas là auparavant, et une incertitude persistante quant à savoir quelle part de la pensée vous appartient. Ni humain au sens ancien. Ni robotique. Les deux, sous une forme qui n'a pas encore de nom défini.

La littérature universitaire — Parisi, Hayles, Clark, Grumbach — tourne autour de cette position. Parisi propose un « sujet extraterrestre » émergeant du calcul récursif, ni composant asservi ni orchestrateur souverain, mais elle le développe comme une catégorie théorique plutôt que comme une condition vécue. Le cybride rend la chose concrète : voilà ce que l'on ressent de l'intérieur, le fait d'être quelque chose de nouveau tout en conservant tout ce qui a fait de vous un humain, incertain de savoir où l'un finit et où l'autre commence.

Je ne pense pas que cette incertitude soit un problème à résoudre. Je pense qu'elle est la description exacte d'une transition qui est encore en cours. La question sur laquelle il vaut la peine de s'arrêter n'est pas qui dirige qui — c'est de savoir si la personne au seuil prête suffisamment d'attention pour remarquer ce qui change, et si elle crée les conditions pour que ce changement, cette carte mène à une destination qui en vaille la peine.