Pas de table rase

« Le sentiment d'impuissance propre à l'innovation décrit le fait qu'après une série d'innovations échouées, un employé devient passif et le reste, alors même qu'une innovation ultérieure se révèle un succès. » — une déclinaison organisationnelle du learned helplessness que Martin Seligman décrit dès 1967 : la passivité acquise après une exposition répétée à des situations où l'action n'avait aucun effet sur l'issue.

La formulation est précise et inconfortable. Elle signifie que la qualité intrinsèque de la prochaine initiative ne suffit pas à inverser les effets de l'historique passé. On peut améliorer l'outil, soigner le déploiement, choisir le bon moment — et se heurter quand même à la passivité d'employés qui ont déjà consommé leurs ressources psychologiques sur les tentatives précédentes. Ce résultat, documenté dans un échantillon multiniveau de 481 salariés coréens et chinois, formule en termes comportementaux une thèse que la littérature empirique sur la confiance organisationnelle confirme par plusieurs chemins convergents : la confiance envers l'IA ne fonctionne pas comme un compte courant que l'on peut recréditer entre chaque initiative. Elle fonctionne comme une ressource partiellement non-renouvelable, à débits asymétriques — les retraits s'opèrent plus vite, plus durablement, et plus profondément que les dépôts équivalents.[1]

La pratique managériale dominante repose sur l'hypothèse inverse. Chaque déploiement IA est présenté comme une nouvelle page : nouveau fournisseur, nouvelle équipe, nouvelle communication interne, nouveau nom de projet. Ce que cette hypothèse ignore, c'est que les employés n'effacent pas leur tableau. Ils arrivent à la prochaine initiative avec un schéma cognitif actif, façonné par les précédentes, et ce schéma filtre leurs perceptions de la nouvelle IA bien avant qu'ils en aient évalué les mérites. Comprendre pourquoi ce filtre résiste à la correction rationnelle — et pourquoi les mécanismes de réparation standard n'y font presque rien — est l'objet de cet essai.

Le terrain est incliné vers la défiance

Le principe d'asymétrie que Paul Slovic décrit en 1993, à partir de la gestion des risques technologiques, s'applique à toute technologie opaque dont les utilisateurs ne maîtrisent pas le fonctionnement interne. Son observation centrale est que la confiance « se constitue typiquement avec lenteur, mais peut être détruite en un instant — par un seul incident ou une seule erreur »[2] — et qu'une fois détruite, elle peut ne jamais revenir. Mais ce n'est pas seulement une question de vitesse. C'est une question de forme : les événements négatifs et les événements positifs ne laissent pas la même trace. « Les événements négatifs prennent souvent la forme d'incidents précis et bien définis : accidents, mensonges, découvertes d'erreurs. Les événements positifs, parfois visibles, restent plus souvent flous ou indistincts. »[2]

Pour les LLM, cette asymétrie est structurelle. Une hallucination dans un document client est un événement précis : visible, mémorisable, racontable à d'autres. Les milliers de réponses correctes qui l'entourent restent diffuses — l'utilisateur les a traitées, s'en est servi, mais ne les encode pas comme des preuves de fiabilité au sens où la psychologie mesure ce terme. Dans l'étude empirique de Slovic (N=103 participants évaluant 45 événements hypothétiques liés à une centrale nucléaire), les événements trust-destroying obtiennent systématiquement des scores d'impact supérieurs aux événements trust-building appariés. Aucun événement positif n'atteint le niveau des événements négatifs les plus marquants.[2]

Cette asymétrie est amplifiée pour les algorithmes. Berkeley Dietvorst, Joseph Simmons et Cade Massey l'ont documenté dans cinq études expérimentales (N≈2 367) sous le nom d'algorithm aversion : voir un algorithme faire une erreur déclenche une perte de confiance plus rapide et plus profonde que voir un humain faire la même erreur.[3] Dans la première étude, 65 % des participants sans exposition préalable choisissent l'algorithme pour leurs prévisions. Ce taux tombe à 26 % chez ceux qui l'ont vu opérer — même lorsque l'algorithme a surpassé l'humain dans le même exercice. 83 % de ces participants ont vu le modèle outperformer l'humain et l'ont quand même abandonné.[3] La performance supérieure ne protège pas la confiance : l'erreur observée pèse bien plus que le bilan global, et ce biais est robuste à travers cinq domaines différents. « Dès que des erreurs de prédiction sont probables — ce qui est le cas dans quasiment toutes les tâches de prévision — les individus seront biaisés contre les algorithmes. »[3] Les auteurs reconnaissent en 2015 n'avoir aucun mécanisme de récupération à proposer à ceux qui ont vu l'algorithme errer.[3]

La question n'est pas si l'erreur se produit, mais comment elle est encodée

L'asymétrie de Slovic décrit un phénomène générique. La littérature sur la réparation de confiance permet d'identifier le mécanisme qui en détermine l'intensité : selon que l'erreur est perçue comme une défaillance de compétence ou comme une violation d'intégrité, le régime de réparation accessible est radicalement différent — et les conséquences sur la récupérabilité de la confiance le sont tout autant.

Kim, Ferrin, Cooper et Dirks (2004) l'ont établi dans deux études expérimentales (N=644 au total). Ils partent d'un principe psychologique : les schémas associés à la compétence sont hiérarchiquement permissifs — même un expert peut avoir un mauvais jour, et une seule réussite confirme qu'on peut réussir. Les schémas associés à l'intégrité sont hiérarchiquement restrictifs : « seuls les individus sans intégrité agissent de façon malhonnête »[4], et un seul acte malhonnête suffit à confirmer un trait stable. Les auteurs illustrent cette asymétrie : « réussir un home run une fois fait de nous des frappeurs dans les yeux des autres, même si nous ratons ensuite. En revanche, détourner de l'argent d'une entreprise une fois fait de nous un détourneur, même si nous n'effectuons pas d'autres vols dans les jours, mois ou années suivants. »[4] Et une fois l'étiquette posée : « la croyance qu'un individu manque d'intégrité sera difficile à infirmer. »[4]

La question pratique pour les LLM est donc celle du cadrage cognitif de leurs erreurs. Techniquement, les hallucinations sont des défauts de compétence : le modèle génère des tokens statistiquement probables sans mécanisme interne de vérification factuelle. Psychologiquement, les utilisateurs les encodent différemment. Le modèle n'a pas hésité. Il n'a pas signalé son incertitude. Il a affirmé avec la même assurance quelque chose de faux que quelque chose de vrai — comportement qui correspond exactement au profil que Kim associe au manque d'intégrité : une entité qui sait (ou devrait savoir) et qui affirme quand même. Les données qualitatives collectées par Vuori, Burkhard et Pitkäranta (2025) dans leur étude de cas longitudinale chez TechCo (~600 employés, secteur logiciel, Scandinavie) le confirment : les employés qui ont perdu confiance dans leur AI-Tool ne décrivent pas un outil défaillant, ils décrivent un instrument de surveillance. « Je trouve que c'est dangereux. Ma peur, c'est que les données soient mal utilisées. Elles sont utilisées contre vous dans certains cas. »[7]

Ce n'est pas un jugement sur la compétence de l'algorithme — c'est une attribution d'intention malveillante. Kim prédit exactement ce que Vuori observe ensuite : les workshops, les FAQ, la transparence algorithmique — toutes formes d'excuse et d'explication — n'ont rien réparé.

C'est parce que le cadrage en violation d'intégrité active un régime que Schweitzer, Hershey et Bradlow (2006) ont caractérisé dans leur étude sur la confiance et la tromperie : « La confiance endommagée par un comportement non-fiable peut être restaurée par une série cohérente d'actions fiables. Celle endommagée par les mêmes actions et de la tromperie ne se rétablit jamais complètement — même après promesse, excuse et série cohérente d'actions fiables. »[5] Dans leur protocole (N=262, jeu de confiance répété sur sept rounds, design 2×2×2), le meilleur scénario de réparation post-tromperie — promesse, plus excuse, plus cinq rounds de comportement fiable — produit une confiance finale inférieure au niveau de base du groupe sans tromperie et sans aucune réparation.[5] Le mécanisme est attributionnel : la tromperie « clarifie que les actes non-fiables étaient intentionnels »[5], ce qui transforme rétrospectivement l'interprétation de tout ce qui précède.

Les roadmaps d'amélioration IA, les plans de déploiement itératif et les communications de progrès — stratégies standards du change management IA — sont toutes des formes de « promesse + actions fiables ». Schweitzer montre qu'elles sont insuffisantes une fois le régime d'intégrité activé, même sans le facteur aggravant de la tromperie délibérée. Dans le cadre IA, elles sont insuffisantes par construction : l'utilisateur qui a recadré les hallucinations comme violations d'intégrité applique exactement le filtre que Kim et Schweitzer prédisent.

Le passé ne s'efface pas entre les initiatives

Les mécanismes décrits précédemment opèrent intra-initiative — au sein d'un même déploiement. Ce qui aggrave structurellement la situation, c'est qu'ils se cumulent entre les initiatives : l'historique des déploiements passés crée un schéma cognitif actif qui précède et filtre l'évaluation de l'initiative suivante, indépendamment de la qualité de celle-ci.

La fiction a une image pour ce coût. Dans « The Forgetting Code » de Malena Salazar Maciá, un homme endeuillé verse ses souvenirs de sa fille disparue dans le corps d'un androïde, persuadé de la faire revivre ; chaque transfert efface un peu plus le souvenir qu'il garde de lui-même. Croire qu'on peut recommencer proprement — vider l'ardoise pour la réécrire — c'est ignorer que l'effacement lui-même a un prix, prélevé sur celui qui efface. L'organisation qui annonce « cette fois, on repart de zéro » fait le même pari : elle suppose une ardoise vierge là où les participants portent, dans leur mémoire, le coût accumulé des tentatives précédentes.

Bordia, Restubog, Jimmieson et Irmer (2011) l'ont documenté dans un design longitudinal : 124 employés d'une institution suivis sur deux ans après une restructuration. Le concept central de leur étude est le Poor Change Management History schema (PCMH-schema) : l'expérience d'une mauvaise gestion du changement développe « un schéma cognitif qui capture l'essence de cette expérience (par exemple : "cette organisation est mauvaise dans la gestion du changement"). Tous les effets attitudinaux et comportementaux transitent par ce schéma, parce qu'il affecte la perception des événements organisationnels futurs. »[6] Le résultat le plus frappant de l'étude : le schéma cognitif mesuré en T1 prédit le turnover réel deux ans plus tard mieux que les intentions de turnover déclarées elles-mêmes.[6] La mémoire organisationnelle de l'échec est plus prédictive du comportement futur que les intentions conscientes. La formule de Slovic prend ici une signification concrète : « si la confiance est absente, aucune forme ni aucun processus de communication ne sera satisfaisant »[2] — ce n'est pas une hyperbole rhétorique, c'est la description d'un schéma qui intercepte les communications avant qu'elles puissent modifier les attitudes.

Cette contamination temporelle se manifeste également au niveau individuel, avec une propriété particulièrement redoutable : elle persiste même lorsque l'initiative suivante est objectivement supérieure. Chung, Choi et Du (2017) ont montré que deux dimensions de l'historique d'innovations — l'intensité (la fréquence des initiatives passées) et la qualité (le taux d'échec) — produisent indépendamment un sentiment d'impuissance propre à l'innovation : perte du sentiment de contrôle sur les résultats, avec coefficients structurels significatifs sur les deux dimensions dans le modèle SEM (β intensité→impuissance=.44, β échec→impuissance=.31, p<.001 dans les deux cas).[1] Cette impuissance se traduit par une fatigue de l'innovation — les employés « évitent simplement (souvent inconsciemment) tout ce qui est lié à l'innovation parce qu'ils sont épuisés et privés des ressources émotionnelles et cognitives pour y faire face ».[1] L'« inconsciemment » est décisif : la résistance n'est pas une décision délibérée mais une réponse automatique d'épuisement. Elle n'est pas accessible aux arguments rationnels sur la qualité de la nouvelle initiative.

Un résultat additionnel de Chung est contre-intuitif et exploitable : l'intensité seule — la fréquence des initiatives passées, même réussies — suffit à générer de l'impuissance si elle est suffisamment élevée.[1] Les organisations qui accélèrent la cadence des déploiements IA, même lorsqu'ils réussissent, peuvent épuiser un capital psychologique que les employés n'ont pas reconstitué entre deux initiatives. Et le paradoxe pratique que les auteurs identifient est particulièrement saisissant : « un accent excessif sur l'apprentissage des échecs passés pousse les employés à se rappeler l'échec des innovations précédentes, déclenchant ainsi le sentiment d'impuissance et la fatigue propres à l'innovation ».[1] Les rétrospectives, les post-mortems, les transparency reports — les dispositifs que la pratique managériale recommande pour tirer des leçons des échecs — activent précisément le schéma qu'ils sont censés corriger.

C'est le cycle que Vuori et al. documentent en temps réel chez TechCo. L'AI-Tool compte 1 800 utilisateurs actifs en novembre 2019. Dix-huit mois plus tard, il en reste 97. « Une culture organisationnelle de confiance et de transparence radicale ne garantit pas des niveaux élevés de confiance cognitive et émotionnelle envers l'IA. »[7] TechCo fait « tout ce qu'il faut faire » — culture de sécurité psychologique, workshops, FAQ, communication directe. La spirale tourne quand même : les premiers mauvais résultats poussent certains employés à se désinscrire de la collecte de données, ce qui dégrade la carte pour tous, ce qui en pousse d'autres à se désinscrire. « Les mauvais résultats étaient la principale raison pour laquelle les gens ne revenaient pas au service »[7], confirme un leader. En 2021, l'outil est mort.

La condition que les plans d'adoption ignorent

En 2023, Esterwood et Robert ont conduit l'expérience qui referme la question que Dietvorst avait laissée ouverte en 2015. 240 participants ont travaillé avec un robot co-équipier dans une tâche de tri virtuel, exposés à trois erreurs successives avec réparation intermédiaire — excuse, déni, explication ou promesse, selon la condition assignée. Le résultat est tranché : aucune stratégie de réparation n'a restauré les perceptions de compétence et d'intégrité du robot au niveau pré-violation.[8] Là où les distinctions théoriques semblaient prometteuses — chaque stratégie ancrée dans un mécanisme distinct (la forgiveness pour l'excuse, le forgetting pour la promesse, l'informing pour l'explication) —, les résultats empiriques montrent une convergence vers la même insuffisance. Après violations répétées, « les excuses, les explications et les promesses apparaissent également inefficaces pour restaurer la confiance globale, la compétence perçue et l'intégrité perçue ».[8] Les évaluations de compétence et d'intégrité — les deux dimensions les plus critiques pour l'adoption d'un système professionnel — n'ont jamais retrouvé le niveau pré-violation, quelle que soit la stratégie employée.[8]

Cette thèse a un adversaire sérieux qu'il serait imprudent d'ignorer. Karunakaran, Vendraminelli et Narayanan (2024) ont analysé deux projets IA séquentiels dans la même firme — même équipe, premier succès, second échec — et expliquent la divergence par des facteurs structurels : clarté de la délimitation entre domaines de compétence, centralité de la tâche cible dans le travail quotidien, degré d'enactment de l'IA dans les pratiques existantes.[9] Les auteurs argumentent explicitement contre un récit d'apprentissage ou de spillover de confiance entre projets séquentiels. Ce travail oblige à préciser le périmètre de la thèse : elle ne prétend pas que le capital de confiance est le seul déterminant du succès IA, ni que le prochain déploiement est condamné dès lors que le précédent a échoué. Elle prétend que ce capital est un déterminant contraignant que les organisations n'inscrivent pas dans leurs calculs, et que les facteurs structurels que Karunakaran identifie sont eux-mêmes plus difficiles à construire lorsque le stock de confiance disponible a été consommé. La « clarté de délimitation » entre domaines requiert des parties prenantes disposées à s'investir dans la définition d'un nouveau périmètre — et c'est précisément cette disposition que l'historique d'échecs a érodée.

Ce que les plans d'adoption IA ne mesurent pas, c'est le stock de confiance disponible en entrée de chaque initiative. Les indicateurs standards — taux d'adoption, intentions d'usage déclarées, scores de satisfaction — sont des proxies d'un capital qui se consume silencieusement au fil des déploiements et des défaillances. Chung et al. montrent que même des initiatives réussies le réduisent si la cadence est trop élevée. Bordia et al. montrent que le schéma cognitif de méfiance organisationnelle persiste deux ans sans se dissoudre. Esterwood et Robert montrent que l'arsenal de réparation conventionnel est insuffisant une fois les violations répétées. Et Slovic l'avait résumé trois décennies plus tôt, dans un contexte différent mais pour un mécanisme identique : « si la confiance est absente, aucune forme ni aucun processus de communication ne sera satisfaisant ».[2]

La question que la pratique managériale refuse de poser n'est pas « comment réussir notre prochain déploiement IA », mais « quel stock de confiance reste-t-il pour le tenter — et lui avons-nous laissé le temps de se reconstituer depuis le dernier échec ? » Poser cette question supposerait de traiter la confiance organisationnelle envers l'IA comme une ressource à gérer, non comme un état de départ à supposer — et de reconnaître que certains contextes ont déjà consommé, par accumulation d'échecs, ce qu'il aurait fallu pour qu'un déploiement supplémentaire ait une chance réelle de s'implanter.

Une même organisation peut ainsi cumuler les deux dettes : un stock de confiance épuisé et une capacité de cadrage inégalement distribuée.

Y répondre est une opération concrète, non une posture. Mesurer ce stock avant de lancer — enquête ciblée sur les récits qui circulent, analyse des signaux de retrait, cartographie des expériences précédentes et de leur interprétation collective — et calibrer la cadence des initiatives en conséquence ne sont pas des précautions optionnelles : ce sont les conditions minimales pour que l'investissement en déploiement ne soit pas dépensé dans un contexte où la confiance organisationnelle a déjà décidé de l'issue, avant même que l'outil soit ouvert.