La compétence fantôme

Toutes choses égales par ailleurs, les équipages A340 — qui avaient en moyenne 14 969 heures de vol au total — étaient significativement moins performants que les co-pilotes A320, qui n'en avaient que 3 438.[1] Les pilotes de ligne les moins compétents au test de pilotage manuel n'étaient pas les débutants. C'étaient les commandants de bord les plus expérimentés : ceux qui avaient passé des années aux commandes d'un Airbus A340 hautement automatisé, accumulant des heures de vol sans accumuler de pratique active. Le facteur Fleet — proxy de la fréquence des atterrissages manuels — expliquait 45 % de la variance dans la performance de pilotage ; le facteur Rank — proxy de l'expérience et de l'ancienneté — en expliquait 8 %. Cette inversion — plus d'heures, moins de compétence — n'est pas spécifique à l'aviation. C'est la structure de tout apprentissage dans les domaines où la compétence est en partie tacite et s'acquiert par pratique active confrontée à des cas réels, dès lors que cette pratique est substituée par une automatisation qu'on ne confronte jamais directement. L'IA agentique reproduit ce mécanisme à une vitesse et une échelle sans précédent : les organisations qui déploient des agents dès le premier jour de prise de poste créent, à grande échelle, des utilisateurs qui ressemblent aux commandants A340 — productifs en apparence, décalibrés en profondeur, et incapables de percevoir leur propre manque.

Ce n'est pas une question de motivation ou de curiosité individuelle. Deux mécanismes cognitifs distincts bloquent la formation de la compétence dans un régime agent-first ; un troisième empêche la décalibrage de produire un signal observable. L'argument de cet essai est structurel : le déploiement agent-first ne supprime pas la phase d'apprentissage fondatrice — il la rend invisible.

L'expertise ne se forme pas par exposition

L'erreur conceptuelle au cœur du déploiement agent-first est de confondre familiarité et compétence. L'utilisateur qui interagit quotidiennement avec un agent pendant six mois accumule de l'exposition — une familiarité avec les patterns d'output, avec l'interface, avec les types de réponse que le modèle produit habituellement. Ce qu'il n'accumule pas, faute d'en avoir l'occasion, c'est la compétence de supervision : les schèmes tacites qui permettent de détecter quand un output franchit la frontière entre le vraisemblable et le juste.

La distinction est ancienne dans la recherche en psychologie cognitive. Ericsson, Krampe et Tesch-Römer ont établi en 1993, sur la base de deux études longitudinales portant sur des violonistes et des pianistes, que la performance experte n'est pas le produit de l'expérience brute mais de la pratique délibérée — une « activité hautement structurée dont l'objectif explicite est d'améliorer la performance : des tâches spécifiques sont conçues pour surmonter les faiblesses, et la performance est soigneusement surveillée pour fournir des indices permettant de la perfectionner » (p. 368).[2] La formulation paraît technocratique. Elle décrit une contrainte cognitive réelle : « En l'absence de rétroaction adéquate, l'apprentissage efficace est impossible et le progrès reste minimal, même pour les sujets très motivés. »[2] L'exposition sans rétroaction granulaire, sans confrontation répétée à l'erreur, sans tentative active dans la zone de compétence limite — ne génère pas d'expertise. Elle génère de la familiarité.

La donnée empirique est précise : les meilleurs violonistes de l'Académie de musique de Berlin-Ouest avaient accumulé 7 410 heures de pratique délibérée à l'âge de 18 ans, contre 5 301 heures pour les « bons » violonistes et 3 420 heures pour les futurs enseignants de musique — un écart de 2,1 à 1 entre le premier et le troisième groupe, entièrement imputable à la qualité de la pratique, pas au nombre d'années d'exposition.[2] Ce n'est pas la quantité d'heures passées avec un instrument qui forge l'expertise ; c'est la structure de ces heures : tentative active, visibilité de l'erreur, rétroaction calibrée.

L'IA agentique supprime exactement ces trois éléments. Elle produit les outputs à la place de l'utilisateur — qui n'effectue pas la tentative. Elle absorbe les erreurs intermédiaires avant qu'elles deviennent visibles — qui ne reçoit pas de rétroaction granulaire sur les sous-processus du modèle. Et elle délivre un résultat qui ressemble à la bonne réponse sans exposer les heuristiques par lesquelles elle y est parvenue — qui ne peut pas « prêter attention aux aspects critiques de la situation ».[2] L'utilisateur agent-first n'est pas incompétent ; il est fonctionnellement productif. C'est précisément le problème — sur le long terme, et surtout sur la population junior.

Un deuxième mécanisme renforce le premier. Kalyuga, Ayres, Chandler et Sweller ont documenté ce qu'ils appellent l'effet d'inversion de l'expertise : les techniques pédagogiques efficaces avec les novices peuvent perdre leur efficacité — et même produire des effets négatifs — lorsqu'elles sont utilisées avec des apprenants plus avancés.[3] Le mécanisme est précis : « La mise en correspondance et l'intégration de composantes redondantes liées exigeront des ressources supplémentaires de mémoire de travail et pourront provoquer une surcharge cognitive. Cette charge cognitive supplémentaire peut survenir même si l'apprenant reconnaît que les matériaux pédagogiques sont redondants et décide de les ignorer du mieux qu'il peut. Les informations redondantes sont fréquemment difficiles à ignorer. »[3]

Ce mécanisme — appelons-le redondance cognitive — est plus précis que la notion populaire de surcharge. L'IA agentique ne surcharge pas l'utilisateur ; elle le rend cognitivement redondant par rapport à ses propres schèmes partiels. Dès qu'un utilisateur a acquis une compréhension fragmentaire de la tâche, l'agent qui effectue cette tâche à sa place lui présente en continu un output déjà formé que son cerveau doit traiter en parallèle de sa propre pensée naissante — consommant les ressources de mémoire de travail qui auraient servi à consolider des schèmes autonomes. La guidance ne peut pas être ignorée ; elle s'impose cognitivement même quand on voudrait l'écarter.

Les deux mécanismes s'additionnent, ils ne se chevauchent pas. Ericsson bloque la formation des schèmes fondateurs : sans tentative active et rétroaction calibrée, les schèmes ne se constituent pas. Kalyuga bloque la formation résiduelle qui aurait pu se produire malgré tout : le scaffolding agentique omniprésent entre en compétition cognitive avec les schèmes partiels, empêchant leur consolidation. Ce n'est pas un simple retard d'apprentissage. C'est un double blocage structurel.

La confiance sans boucle d'apprentissage

La compétence ne suffit pas à superviser un agent. Il faut aussi une confiance calibrée — une confiance qui correspond aux capacités réelles du système, qui varie en fonction du type de tâche, qui s'ajuste sur la performance observée. Une confiance calibrée distingue le cas où l'agent peut être suivi sans vérification du cas où il doit être contrôlé attentivement. Sans elle, la supervision est aléatoire : elle surcontrôle les zones fiables et sous-contrôle les zones à risque.

Lee et See (2004) ont établi le cadre fondateur de la recherche sur la confiance en l'automatisation en identifiant les trois bases sur lesquelles repose la confiance d'un opérateur : la performance (ce que le système fait — sa compétence, sa fiabilité, la régularité de ses résultats), le processus (comment il fonctionne — le degré auquel ses mécanismes sont appropriés et compréhensibles), et la finalité (pourquoi il a été conçu — l'intention de son concepteur).[4] Ces trois bases ne sont pas également accessibles. Faute de pouvoir observer le processus d'un LLM — opaque par nature — l'utilisateur fonde sa confiance initiale sur la finalité perçue : la réputation de l'outil, le discours de déploiement, la promesse commerciale. C'est une confiance par procuration, sans ancrage dans la performance observée. Leur observation centrale sur la calibration est contre-intuitive : la confiance ne se construit pas par décision, elle se calibre par l'usage. « Parce que la confiance repose en grande partie sur l'observation du comportement de l'automatisation, dans la plupart des cas il faut se reposer sur l'automatisation pour que la confiance puisse croître. »[4] La boucle est fermée : sans usage, pas d'observation du comportement ; sans observation, pas de calibration ; sans calibration, la confiance reste bloquée au niveau de la foi initiale dans la réputation de l'outil. L'utilisateur agent-first qui délègue immédiatement n'entre jamais dans ce cycle. Sa confiance est réelle — elle est simplement non calibrée sur la réalité.

De cette architecture découlent deux propriétés que la confiance doit satisfaire pour être opérationnellement utile : la résolution et la spécificité.[4] La résolution désigne la précision avec laquelle l'évaluation de confiance correspond au profil réel de compétence du système : une confiance à haute résolution est différenciée (l'utilisateur sait que l'agent est fiable pour X mais pas pour Y) ; une confiance à basse résolution est globale et indifférenciée. La spécificité désigne l'ancrage de cette différenciation dans des catégories de tâches précises, pas dans des impressions générales sur la qualité de l'outil. Ces deux propriétés permettent de tracer la distinction cruciale entre trustworthy automation (fiable dans ses succès, mais pas nécessairement compréhensible dans ses échecs) et trustable automation (dont les limites peuvent être apprises, cartographiées, et donc corrigées). Les LLM agentiques actuels sont très trustworthy dans leur domaine de compétence — leurs outputs sont convaincants, leurs erreurs rares en surface — mais structurellement peu trustable : leurs défaillances ne sont pas déterministes, pas prévisibles depuis l'output seul, pas corrélées avec des signaux que l'utilisateur pourrait apprendre à lire. Résultat : une confiance à basse résolution, sans spécificité tâche, et donc sans capacité de discrimination là où elle est nécessaire.

Lee et See notent un effet modulateur que le discours sur le déploiement ignore systématiquement : la décision de déléguer ne dépend pas de la confiance envers l'IA seule, mais du différentiel entre cette confiance et la confiance que l'opérateur a en ses propres capacités (self-confidence). « Une petite différence dans la prédisposition à faire confiance peut avoir un effet substantiel quand elle influence une décision initiale d'utiliser l'automatisation. »[4] Les utilisateurs qui ont une haute confiance dans leurs propres compétences tendent à commencer avec un niveau de confiance initial plus bas envers l'automatisation — ce qui, paradoxalement, les engage davantage dans la boucle de calibration parce qu'ils contrôlent avant de déléguer. À l'inverse, ceux qui doutent de leur propre compétence délèguent plus facilement et forment une confiance non calibrée. C'est ici que le mécanisme devient circulaire et spécialement dangereux pour les juniors : l'éviction de la phase fondatrice décrite plus haut érode la compétence, et donc la self-confidence ; or une self-confidence basse abaisse le seuil de délégation ; et plus on délègue, moins on pratique, plus la compétence s'érode. La délégation devient inévitable — non parce que l'IA est fiable, mais parce que l'opérateur ne se fait plus confiance pour faire autrement. Pour les juniors en régime agent-first, les deux facteurs se cumulent dès le premier jour : moindre confiance en leurs propres schèmes partiels (statut de débutant) et délégation maximale. La configuration maximise précisément la trajectoire à basse résolution et sans calibration.

Hoff et Bashir, dans une méta-analyse qualitative de 127 études publiées entre 2002 et 2013, affinent ce cadre en distinguant trois couches de confiance en l'automatisation. La confiance dispositionnelle est un trait stable, indépendant du contexte — une prédisposition générale à faire confiance aux technologies. La confiance situationnelle dépend du contexte d'interaction immédiat — l'interface, la réputation de l'outil, la première démonstration. La confiance apprise, enfin, est la seule qui reflète les capacités réelles du système : elle se construit à travers l'interaction répétée, elle s'ajuste sur les erreurs observées, elle incorpore la connaissance des conditions de défaillance.[5] C'est la troisième couche que le déploiement agent-first empêche structurellement de se former.

« Les gens supposent couramment que les machines sont parfaites. Par conséquent, leur confiance initiale est fondée sur la foi. Cependant, cette confiance se dissout rapidement après les erreurs du système ; à mesure que les relations avec les systèmes automatisés progressent, la fiabilité et la prédictibilité remplacent la foi comme fondement principal de la confiance. »[5] Ce remplacement — de la foi par la calibration — requiert des erreurs observables. L'utilisateur agent-first n'observe pas les erreurs : il observe des outputs. Les erreurs intermédiaires du modèle — ses hésitations, ses chemins abandonnés, ses hallucinations corrigées avant livraison — sont invisibles. La foi ne peut pas se transformer en calibration parce que les données de calibration ne lui parviennent jamais.

La formule de Lee et See est directement opposable aux rhétoriques de déploiement qui maximisent l'adoption sans distinguer enthousiasme et calibration. Une organisation qui mesure le succès de son déploiement IA par le taux d'utilisation maximise peut-être la confiance dispositionnelle et situationnelle — sans rien faire pour la confiance apprise, la résolution, ni la spécificité tâche. Elle déploie des utilisateurs engagés dont la confiance ne correspond à aucune réalité apprise. Elle confond l'indicateur avec l'objectif.

Hoff et Bashir documentent encore un mécanisme aggravant : l'opérateur sorti de la boucle perd progressivement la capacité à reprendre la main. « Bien que l'automatisation à haut niveau puisse exécuter les tâches plus rapidement, les opérateurs humains sont "sortis de la boucle". Cela signifie qu'ils ne peuvent plus prévenir les erreurs du système ; celles-ci doivent être traitées après qu'elles surviennent. De plus, les opérateurs sortis de la boucle peuvent devenir dépendants de l'automatisation pour exécuter les tâches — et si des pannes surviennent, ils auront vraisemblablement beaucoup plus de difficultés à accomplir les tâches manuellement. »[5] La dépendance n'est pas une métaphore ; c'est un mécanisme cognitif documenté dans des dizaines d'études sur des systèmes d'aide à la décision militaires, médicaux et de transport. Les LLM agentiques le reproduisent dans tout environnement professionnel où ils absorbent les tâches fondatrices avant que les compétences de supervision soient constituées.

La dégradation sans signal

Ce qui distingue le problème de l'agent-first de la simple courbe d'apprentissage ordinaire, c'est son invisibilité organisationnelle. L'organisation qui déploie des agents en premier voit la productivité augmenter immédiatement — le gain à court terme est réel et mesurable. Ce qu'elle ne voit pas, c'est la dégradation de la compétence de supervision : un déficit qui se manifeste seulement dans les cas-limites, les erreurs rares mais coûteuses, les situations où l'agent dépasse ses frontières de fiabilité et où personne ne le détecte.

Les données de Haslbeck et Hoermann documentent exactement cette structure. Dans leur étude sur 126 pilotes de ligne Airbus, les commandants A340 ne voyaient pas leur incompétence relative — ils n'avaient simplement pas de référence récente pour la percevoir. Deux à quatre approches manuelles par mois ne constituent pas un signal suffisant sur ses propres lacunes.[1] La décalibrage n'avait pas besoin d'être mesurée pour être structurellement présente : elle était inévitable dans la géométrie même du déploiement. Et l'organisation — la compagnie aérienne — ne la percevait pas non plus. Les indicateurs opérationnels de ces commandants étaient intacts. Leur productivité était intacte. Seul un test objectif a révélé l'écart.

Haslbeck et Hoermann ajoutent un avertissement que les organisations qui déploient des agents devraient lire attentivement : « De telles interventions doivent être appliquées dans les premières étapes de la carrière d'un pilote avant que la dégradation puisse survenir. Sinon, les comportements d'évitement et un sentiment d'inconfort à l'égard du vol manuel pourraient conduire à une spirale négative de conduites de vol manuel de plus en plus rares. »[1] La dégradation est auto-renforçante. L'utilisateur qui n'a pas développé les compétences fondatrices évite progressivement les situations qui les exigeraient ; cet évitement renforce le déficit ; le déficit renforce l'évitement. L'organisation, qui mesure la productivité et non la compétence de supervision, ne voit rien.

Beane documente la même structure dans les blocs opératoires. Son ethnographie dans cinq hôpitaux nord-américains entre 2013 et 2015 révèle comment la chirurgie robotique a restructuré le travail de formation chirurgicale de façon à rendre la participation périphérique légitime des internes virtuellement impossible.[6] Le point à souligner ici n'est pas le shadow learning — les quelques internes exceptionnels qui trouvaient des voies de contournement pour pratiquer en dehors du cadre officiel. Ces internes — douze sur trente-trois, selon la collecte de Beane — constituent une minorité active et intentionnelle, une réponse aux contraintes du déploiement. Ce que cet essai pointe, c'est la majorité qui ne bricole pas : les internes qui regardaient les robots opérer, remplissaient leurs fiches de formation, obtenaient leurs certifications, et sortaient du cursus légalement habilités mais pratiquement sous-compétents.

La formule d'un chirurgien senior est directe : « Regarder un film ne fait pas de vous un acteur, vous voyez ce que je veux dire ? [...] Les plus jeunes deviennent déficients parce qu'ils regardent beaucoup et ne font rien sur le robot — et ils deviennent déficients en chirurgie ouverte parce que la plupart des interventions passent au robot. »[6] L'observation, même attentive, même répétée, même motivée, n'engage pas les mêmes circuits cognitifs que l'exécution. C'est exactement le mécanisme qu'Ericsson identifiait dans les conservatoires de Berlin-Ouest. Beane le documente dans les blocs opératoires de chirurgie robotique. Sa transposition aux environnements professionnels d'IA agentique est une inférence, pas une preuve directe — mais la structure est rigoureusement homologue.

Ce que Beane ajoute à la donnée quantitative de Haslbeck, c'est la dimension de l'invisibilité subjective. Les internes qui n'avaient pas pratiqué ne savaient pas qu'ils n'avaient pas pratiqué — ou plutôt, ils savaient qu'ils avaient regardé, et ne pouvaient pas mesurer l'écart entre regarder et faire. L'un d'eux le formule dans un aveu d'impuissance qui mérite d'être lu attentivement : « Vous avez aussi cette relation de haine avec ça, parce que pendant quatre ans vous avez regardé les autres le faire. Pour moi, j'avais été sur le robot quelques fois, de façon très dispersée et jamais pour longtemps. Et on n'en a vraiment pas le sens quand on le fait par intermittence. »[6] Ce n'est pas l'ignorance de sa propre incompétence ; c'est quelque chose de plus précis — l'incapacité à évaluer l'écart entre ce qu'on a observé et ce qu'on saurait faire. La décalibrage est invisible de l'intérieur.

En 2015, le chirurgien urologue américain moyen pratiquant la chirurgie robotique effectuait une prostatectomie robotique par an (cité dans Beane, 2019, p. 87 — « the average urologic surgeon in the U.S. who did any robotic surgery performed one robotic prostatectomy a year (Chang et al., 2015) »). L'écart entre la certification et la pratique réelle s'était creusé au point d'être structurellement absurde. L'organisation certificatrice — le cursus médical, les hôpitaux — avait livré des habilitations sans s'assurer que les compétences correspondantes s'étaient formées. L'IA agentique peut produire le même résultat, plus silencieusement, dans des centaines d'environnements professionnels simultanément.

L'angle mort que les indicateurs ne mesurent pas

Dans Profession, Isaac Asimov imagine un futur où le savoir est directement imprimé dans le cerveau lors de journées d'orientation professionnelle. Ce régime paraît libérateur — personne ne souffre d'années d'apprentissage laborieux. La nouvelle retourne alors l'intuition : l'élite créative est précisément celle qui ne peut pas être imprimée, contrainte à apprendre par tâtonnements, erreurs et retours en arrière. Ce que la fiction d'Asimov fait voir en positif — la valeur irremplaçable du chemin qui forge la compétence — l'essai l'observe en négatif : dans l'environnement agent-first contemporain, c'est la formation par immersion préalable qui est court-circuitée. Les professionnels reçoivent la compétence « imprimée » sous forme d'outputs produits par l'agent, sans jamais l'avoir construite. Ils se retrouvent dans la position du votant de Franchise — légitimement habilités, structurellement décalibrés — sans disposer de la friction fondatrice qui caractérise, chez Asimov, l'élite capable d'inventer le savoir plutôt que de le consommer.

L'angle mort du déploiement agent-first n'est pas technique. Les organisations qui déploient des agents dès le premier jour de prise de poste font un calcul correct à court terme : la productivité augmente, les sorties sont fluides, les indicateurs sont verts. Ce n'est pas une erreur de calcul. C'est un problème de métrique.

Ce que ces organisations ne mesurent pas, c'est ce qui ne s'est pas formé : les schèmes tacites qui permettent de distinguer un output correct d'un output plausible-mais-erroné ; la confiance calibrée sur l'expérience réelle plutôt que sur la réputation de l'outil ; la compétence de reprise active dans les cas où l'agent dépasse ses frontières de fiabilité. Ces déficits ne produisent pas de signal immédiat — la compétence fantôme est précisément fantôme parce qu'elle n'est visible ni à l'utilisateur qui l'ignore, ni à l'organisation qui n'a pas d'indicateur pour la mesurer.

Les trois mécanismes documentés ici sont cumulatifs. L'absence de pratique délibérée empêche la formation des schèmes (Ericsson). La redondance cognitive de l'agent en continu interfère même avec la formation résiduelle qui aurait pu se produire par exposition fréquente (Kalyuga). L'absence d'interaction formative empêche la confiance de transiter de la foi initiale vers la calibration apprise (Lee & See, Hoff & Bashir). Et la productivité de surface masque la dégradation de fond jusqu'à ce que les cas-limites la révèlent — trop tard pour corriger sans coût élevé (Haslbeck, Beane).

Il faut nommer la limite de ce raisonnement : les quatre domaines convoqués ici — aviation, musique, chirurgie robotique, psychologie cognitive de l'instruction — constituent une homologie, pas une preuve directe. Aucune étude longitudinale ne mesure encore la dégradation de la compétence de supervision chez des professionnels formés en régime agent-first. L'argument est structurellement cohérent à travers des contextes distincts, mais il reste, pour l'heure, une inférence transversale en attente de validation empirique dans le domaine spécifique de l'IA agentique.

La question que les organisations ne posent pas au moment du déploiement n'est pas « comment maximiser l'adoption ? » — c'est « que doit savoir faire l'utilisateur avant de pouvoir déléguer de façon éclairée ? ». Ce n'est pas une question de formation au sens classique : c'est une question de séquencement. L'expertise, la confiance calibrée, et la compétence de supervision se construisent dans un ordre précis — pas dans n'importe quel ordre, et certainement pas en commençant par la délégation totale.

La compétence fantôme ne se révèle pas dans les indicateurs de performance courants. Elle se révèle dans les situations-limite : l'erreur coûteuse que personne n'a détectée parce que personne n'était calibré pour la reconnaître ; la décision critique déléguée à un outil dont les limites n'avaient jamais été apprises ; la crise où l'utilisateur qui devrait reprendre la main découvre qu'il ne sait pas reprendre la main. À ce moment-là, la compétence n'est plus fantôme — elle est simplement absente. Et l'organisation qui aurait pu choisir une séquence différente au moment du déploiement n'a plus ce choix.

La conclusion opérationnelle n'est pas « ralentir le déploiement ». C'est de reconnaître que la phase lente a un contenu précis — exposition aux cas-limites, erreurs à faible enjeu, correction visible en temps réel — et de la concevoir délibérément plutôt que de la supprimer par défaut. Un déploiement agentique compétent commence par une période de calibration explicite où les utilisateurs travaillent avec le système sur des tâches dont ils peuvent évaluer la qualité sans le système. Les organisations qui sautent cette séquence ne gagnent pas du temps — elles externalisent le coût de la décalibrage sur les décisions à venir, où il sera plus difficile à identifier et plus coûteux à corriger.