Essai №11 AI · change management · philosophy

Qui paie quand l’IA se trompe ?

L’IA peut dissocier l’auteur de la responsabilité : la personne qui signe perd le crédit de la production tout en devenant la zone de froissement moral du système lorsqu’il échoue.

« Dans un système hautement complexe et automatisé, l'humain pourrait — accidentellement ou intentionnellement — devenir un "simple" composant. Celui-ci se retrouverait alors, lorsque le système global dysfonctionne, à supporter le poids des responsabilités morales et juridiques. »[1] Accidentellement ou intentionnellement : la zone de froissement moral (moral crumple) peut être créée délibérément, et donc, n'est pas un résidu d'un design défaillant, mais la volonté même d'un process.

Quelque chose s'est déplacé, en parallèle, dans la chaîne entre production et responsabilité. Li et al. le mesurent en 2024 sur 379 participants : ceux qui ont laissé l'IA rédiger leur texte se déclarent moins disposés à assumer la responsabilité si ce texte est critiqué à cause de contenu trompeur, d'atteinte à la vie privée ou de discrimination — les trois dimensions sur quatre que l'expérience testait.[6] Pas tous — mais significativement moins, avec des p (la probabilité que l'écart observé soit dû au hasard) compris, après correction de Bonferroni, entre 0,002 et 0,015 pour la tâche argumentative — soit bien en deçà du seuil usuel de 0,05. Ce déplacement est interne, silencieux, et il précède tout incident. Ce n'est pas une excuse invoquée après coup. C'est un état psychologique qui s'installe avant que quiconque n'ait encore signalé d'erreur, dès que la personne qui produit se repose sur l'utilisation de l'IA générative.

Deux mécanismes opèrent donc simultanément : l'un organisationnel, qui structure la chaîne de responsabilité de façon à ce que le blâme tombe sur celui qui est le plus proche de l'output, quel que soit son contrôle réel (et souvent sous contraintes) ; l'autre psychologique, qui efface progressivement le sentiment d'auteur chez celui qui signe sans avoir véritablement produit. L'un est structurel — il prédatait l'IA et s'est alors aggravé avec elle. L'autre est nouveau — l'IA générative le produit spécifiquement, à une échelle que les outils précédents n'atteignaient pas. Ensemble, ils ne font pas que redistribuer le risque. Ils le concentrent, à deux niveaux différents, sur la même personne : celle qui est à la fois la plus exposée hiérarchiquement et la moins ancrée psychologiquement dans ce qu'elle signe.

I. Du cockpit au bureau : la zone de froissement moral

En 2019, la chercheuse en science, technologie et société Madeleine Elish a proposé un concept pour nommer ce que les enquêtes sur les accidents laissaient entrevoir sans nécessairement le formuler : la zone de froissement moral. Dans un véhicule, la zone de froissement absorbe l'énergie d'un choc pour en protéger les occupants. Dans un système sociotechnique complexe, son équivalent moral absorbe le blâme pour protéger l'intégrité du système — aux dépens de l'opérateur humain le plus proche. « La technologie est maintenue comme irréprochable, tandis que l'opérateur humain devient la pièce défaillante du système. »[1]

Elish reconstruit trois accidents historiques pour documenter la mécanique. Le plus instructif pour nous est le crash d'Air France 447, en juin 2009 : 228 morts au-dessus de l'Atlantique Sud. L'enquête a établi que les co-pilotes juniors — peu expérimentés, formés exclusivement sur des Airbus fly-by-wire et n'ayant jamais réellement piloté sans un système d'aide automatisée — n'ont pas su récupérer le décrochage quand les sondes Pitot ont gelé et que l'autopilot s'est désengagé. Le rapport du Bureau d'enquêtes et d'analyses a conclu à une erreur de pilotage. La certification du système automatisé n'a pas été remise en cause. Parce que le pilote automatique n'avait pas dysfonctionné d'une manière reconnue par son process de certification, le seul dysfonctionnement possible, systémiquement, était le pilote humain.[1] La frontière entre « système fonctionnel » et « opérateur défaillant » n'est pas une description technique neutre : c'est une décision d'architecture, prise avant l'incident, que l'organisation ne revisite pas après.

La transposition au consulting est directe, à une différence près : les défaillances y sont silencieuses. Il n'y a pas de boîte noire, pas de rapport d'enquête, pas de couverture médiatique. Quand un junior soumet un mémorandum juridique, une analyse financière ou un diagnostic stratégique produit en partie avec un LLM, et que l'erreur est découverte — par un client, un partenaire, un manager — le système a fonctionné comme prévu. Le modèle a généré du texte. L'opérateur proximal qui n'a pas détecté la défaillance est désigné. L'architecture d'accountability, elle, n'est pas interrogée.

Ce qui distingue la situation contemporaine de celle d'AF 447, c'est précisément le qualificatif qu'Elish enfermait entre italiques : intentionnellement. Quand une organisation déploie ses collaborateurs juniors comme quality checkers sur des outputs IA — vérificateurs d'un système qu'ils n'ont pas conçu, qu'ils ne maîtrisent pas dans ses zones d'échecs, et sur le déploiement duquel ils n'ont aucun contrôle — elle délimite structurellement une zone de froissement. L'étude de Kellogg et al. (2024) sur 78 consultants juniors BCG ayant participé à une expérience GPT-4 en documente la version intériorisée : parmi les tactiques de gestion du risque IA que les juniors proposaient spontanément, figurait celle-ci — enseigner aux consultants à « savoir que la responsabilité leur appartient ».[3] La zone de froissement n'attendait pas l'échec pour être délimitée. Les juniors l'avaient identifiée eux-mêmes.

II. L'Effet fantôme : quand le fait de signer ne crée plus de sentiment d'auteur

Ce que l'analyse structurelle nomme zone de froissement se traduit, au niveau individuel, en quelque chose d'encore plus fondamental : un détachement progressif entre le fait de signer un document et le sentiment de l'avoir produit. Ce détachement précède les incidents. Il ne résulte pas d'un choix délibéré. Il est mesuré, reproductible, et il laisse la responsabilité formelle intacte pendant qu'il opère.

Draxler et al. (2024) l'ont documenté avec une précision comportementale remarquable.[7] Dans une expérience sur 30 participants Prolific, ils ont soumis des textes à différents modes de contribution : rédaction entièrement humaine, édition limitée d'un texte humain, sélection parmi trois propositions IA, réception d'un texte IA sans modification possible. L'effet du mode d'interaction sur le sentiment de propriété est massif : η²p = .67 (l'eta-carré partiel mesure la part de variance expliquée par un facteur ; .67 signifie que le mode d'interaction explique à lui seul les deux tiers de la variation observée — un effet très large). Plus le mode est AI-primary — l'IA génère, l'humain reçoit — plus la propriété est attribuée à la machine. La personnalisation ne modifie pas ce résultat : même un modèle présenté comme fine-tuné sur le style personnel du participant produit le même déplacement de perception.

Ce résultat serait moins intéressant s'il se traduisait mécaniquement dans la déclaration d'auteur. Il ne le fait pas. Dans le même dispositif, presque tous les participants ont inscrit leur propre nom sous la carte postale qu'ils publiaient sur un blog fictif — même ceux qui avaient attribué l'auteur en tant qu'IA dans les cas précédents. Draxler et al. nomment cette dissociation l'AI Ghostwriter Effect : « Bien que les participants aient attribué le texte à l'IA dans la plupart des cas, ils ont tout de même inscrit leur propre nom sous la carte postale dans la plupart des cas. »[7] La corrélation entre le sentiment de propriété et la déclaration d'auteur est positive — mais faible : r_s = .24 (coefficient de corrélation de Spearman, sur une échelle de 0 = aucun lien à 1 = lien parfait).[7] Il ne s'agit pas d'une règle absolue — certains participants alignent les deux, d'autres les dissocient. Mais le lien est suffisamment ténu pour désigner une tendance structurelle : la déclaration de paternité et le sentiment d'auteur ont commencé à fonctionner indépendamment l'un de l'autre.

« Bien que les participants aient attribué le texte à l'IA dans la plupart des cas, ils ont tout de même inscrit leur propre nom sous la carte postale dans la plupart des cas. »
— Draxler et al. (2024, p. 15)

Li et al. (2024) complètent le tableau en ajoutant la dimension de la responsabilité ressentie.[6] Quand le mode de contribution est AI-primary, les participants se déclarent moins disposés à assumer la responsabilité si le texte est critiqué — non pas parce qu'ils refusent explicitement, mais parce qu'ils ressentent moins le lien entre leur acte de validation et le contenu produit. La bifurcation n'est pas rhétorique. Elle est mesurée avant tout incident, dans un état psychologique basal (au repos, sans pression ni défense). Deux chaînes — celle de la propriété ressentie et celle de l'accountability formelle — se sont déliées. La première s'est déplacée vers la machine. La seconde est restée attachée à la personne.

Dans Ce qu'on attend de nous, Ted Chiang imagine le Predictor : un petit objet qui s'allume une seconde avant qu'on appuie sur son bouton, prouvant de façon irréfutable que le libre arbitre est une illusion. La découverte ne produit pas d'adaptation — elle produit un effondrement. Une partie de l'humanité sombre dans un mutisme catatonique, non parce que les individus ont perdu une compétence, mais parce qu'ils ont perdu le sentiment d'être responsables de leurs propres actes. Ce que Chiang nous montre, les mesures de Li et de Draxler le décrivent en coefficients : ce n'est pas la compétence qui disparaît en premier, c'est le sentiment de causalité. La signature reste sur le document. La responsabilité formelle reste attachée au nom. Mais le lien subjectif entre l'acte de signer et le sentiment d'avoir produit ce qu'on signe s'est évaporé — silencieusement, progressivement, sans moment identifiable où l'on aurait pu dire « c'est ici que j'ai perdu le fil ».

III. La double peine : moins de mérite, même blâme

Si la zone de froissement décrit la mécanique du blâme après un incident, et l'Effet fantôme le détachement psychologique qui précède, l'asymétrie crédit-blâme décrit le régime d'évaluation ordinaire — avant tout échec notable, dans le flux normal du travail avec une composante IA-driven. Son mécanisme a été formulé ainsi : l'usage de l'IA générative pour produire un output « élève le seuil pour mériter du crédit, mais les standards d'attribution du blâme restent les mêmes ».[4] Earp et al. (2024) ont testé cette hypothèse empiriquement sur 1 802 participants en Grande-Bretagne, aux États-Unis, en Chine et à Singapour, dans une expérience préenregistrée à design de vignettes — de courts scénarios écrits présentant un personnage fictif (« Robin ») qui publie un contenu produit avec une IA, que les participants notent ensuite sur des échelles de crédit et de blâme. La réduction du crédit attribué pour un output produit avec un LLM standard atteint un effet de taille d entre 0,74 et 0,96 selon le pays (le d de Cohen mesure l'ampleur d'un écart : 0,2 est faible, 0,5 moyen, 0,8 fort), significatif à p < 0,001 dans tous les cas. Le blâme pour un output défaillant produit dans les mêmes conditions, lui, ne diminue pas. Au Royaume-Uni, il augmente (d = 0,67–0,78 pour tout usage LLM comparé à la condition sans IA).[4]

Un participant américain interrogé dans la phase qualitative de l'étude en a fourni la formulation la plus nette : « Si tu le publies sous ton nom, c'est ta responsabilité. Peu importe comment c'est créé. »[4] Cette phrase décrit exactement le régime dans lequel opère la bifurcation mesurée par Draxler. L'Effet fantôme déplace l'ownership ressenti ; la norme sociale capturée par Earp maintient la responsabilité attachée à la signature. Le travailleur est pris dans les deux mâchoires en même temps.

« Si tu le publies sous ton nom, c'est ta responsabilité. Peu importe comment c'est créé. »
— Participant US, 36 ans [Earp et al., 2024]

L'argument managérial le plus courant contre cette lecture est que l'IA, précisément, absorbe le blâme — que Feier le démontre. La réponse est dans le design expérimental lui-même. Feier, Gogoll et Uhl (2022) testent les délégants — ceux qui décident de router une tâche vers un agent — non les opérateurs.[2] Résultat central : quand c'est un agent artificiel qui cause un mauvais résultat, le délégant est puni significativement moins sévèrement que s'il avait agi seul (8,53 contre 12,96 ECU — les ECU, experimental currency units, étant la monnaie fictive du jeu expérimental ; p = 0,041). La même expérience montre que la récompense pour un résultat correct est identique que l'agent soit humain ou artificiel.[2] La protection bénéficie à celui qui décide du déploiement ; la zone de froissement se forme là où l'exécution a lieu. Et dans le parallèle qui nous intéresse, ce n'est pas le junior qui décide du déploiement. C'est l'organisation, ou le senior, qui l'y assigne.

Les juniors se trouvent, de surcroît, dans la condition où la réduction du crédit est maximale. La personnalisation d'un LLM — seule condition où l'effet crédit disparaît dans l'expérience d'Earp — requiert un corpus de travaux antérieurs suffisant pour différencier la production d'un individu de celle du modèle générique. Les juniors n'ont pas ce corpus. Ils utilisent des LLMs standards, se trouvent précisément dans la condition de réduction maximale, et n'ont pas encore accès à la récupération que la personnalisation permettrait. La structure les contraint dans une position de crédit déficitaire pour leurs productions assistées par l'IA.

IV. La frontière invisible et le travail de réparation

Les mécanismes précédents opèrent dans un contexte que ni Earp ni Feier ne thématisent : la performance de l'IA elle-même est structurellement imprévisible. Dell'Acqua et al. (2026) l'ont mesuré dans une expérience de terrain randomisée préenregistrée sur 758 consultants BCG.[5] L'IA améliore significativement les performances pour certaines tâches (+33,9% de qualité, −25% de temps), mais les dégrade pour d'autres. En dehors des frontières de compétence du modèle, les consultants utilisant l'IA étaient 19 points de pourcentage moins susceptibles de produire des solutions correctes que ceux sans IA (84,5% de correctness dans le groupe contrôle, contre 60% et 70,6% dans les deux conditions IA). Cette frontière est ce que les auteurs appellent la jagged technological frontier — une frontière technologique dentelée : les tâches que l'IA maîtrise ou non, ne suivent pas de patterns alignés avec la difficulté humaine perçue. Ceci est alors imperceptible avant de prendre la décision de se reposer ou non sur l'IA, et n'est visible qu'après coup.

Ce résultat prendrait une portée limitée si les outputs défaillants étaient détectables. Ils ne le sont pas. En dehors des frontières de compétence des modèles, les outputs produits avec IA surpassaient le groupe contrôle en cohérence subjective de 25,1%, indépendamment de leur justesse.[5] Les réponses fausses étaient donc factuellement mieux structurées et plus persuasives que les réponses correctes produites sans IA. L'erreur ne signale pas sa présence — elle la dissimule. La complétion du cycle est cruelle : celui qui a signé l'output convaincant ne le ressentait pas comme sien (Draxler) ; les évaluateurs ne le voyaient pas comme défaillant (Dell'Acqua) ; et quand la défaillance est découverte, le signataire est désigné comme responsable des conséquences (Earp).

Kellogg et al. (2024) ajoutent la couche structurelle que Dell'Acqua ne thématise pas : les juniors gèrent ce risque avec des outils inadaptés.[3] Après l'expérience BCG/GPT-4, interrogés sur leurs stratégies de gestion des risques associés à l'IA dans leurs interactions avec les managers, les 78 consultants juniors ont systématiquement proposé des tactiques insuffisantes selon les experts sur trois dimensions : une compréhension insuffisante des capacités réelles du modèle, une focalisation sur les ajustements de routines humaines plutôt que sur la conception du système, et une intervention au niveau projet plutôt qu'au niveau des responsables du déploiement. Ce n'est pas un déficit de bonne volonté — c'est une limite structurelle : l'apprentissage des technologies émergentes exige de gérer un ensemble de risques nouveaux, et les juniors sont eux-mêmes novices dans cet apprentissage quand la technologie évolue de façon exponentielle. Ce que l'étude ne mesure pas, mais que la suite implique, c'est l'espace dont ces juniors disposent pour articuler ces insuffisances à leurs supérieurs. Émettre une critique sur l'outil que l'organisation a choisi de déployer n'est pas le réflexe premier d'un junior — c'est précisément ce qu'il faut lui donner le droit de faire, voire l'y encourager activement, si l'organisation veut que les signaux faibles remontent avant de devenir des défaillances visibles. Ce mécanisme présuppose que l'organisation leur reconnaît effectivement ce droit et crée les conditions pour l'exercer : sans espace explicite pour la critique ascendante, les juniors n'auront pas l'idée spontanée de contester la répartition de l'accountability sur l'outil déployé par leur hiérarchie.

Ce que l'expérimentation de terrain ne saisit pas, Saxena & Guha (2024) l'ont documenté dans un contexte à forts enjeux.[8] Deux ans d'ethnographie dans une agence privée de bien-être de l'enfance dans le Midwest américain, mandatée pour utiliser plusieurs algorithmes prédictifs à des points critiques du processus de prise en charge. La conclusion formule avec une précision inhabituelle le double bind qui résulte de ce type de déploiement : « Les travailleurs sociaux sont censés utiliser des outils algorithmiques qui leur retirent leur pouvoir discrétionnaire, mais ils sont également censés assumer la responsabilité lorsque les décisions automatisées produisent de mauvaises issues pour les familles. »[8] Les deux injonctions sont simultanées et contradictoires. L'algorithme décide de la direction ; le travailleur répond de l'issue.

« Les travailleurs sociaux sont censés utiliser des outils algorithmiques qui leur retirent leur pouvoir discrétionnaire, mais ils sont également censés assumer la responsabilité lorsque les décisions automatisées produisent de mauvaises issues pour les familles. »
— Saxena & Guha (2024, p. 2:21)

Le coût de cette contradiction ne disparaît pas. Il se redistribue vers les travailleurs, silencieusement, sous la forme du repair work ou de patchwork — le travail de réparation : contourner, ajuster, redocumenter pour faire fonctionner le système au bénéfice des clients plutôt que de satisfaire les seules exigences formelles.

essay
Tous les processus non écrits
Ce patchwork — le terme est celui de Fox et al. — fait l'objet, ailleurs, d'un essai à part entière consacré à la dette de lisibilité que tout déploiement agentique fait retomber sur les travailleurs périphériques.
Read →

Ce travail est invisible dans les systèmes d'information. Il ne génère pas de reconnaissance. Il est absorbé par l'opérateur proximal sans que le système qui a créé le problème ne soit modifié. La chaîne causale est maintenant fermée : les juniors portent le travail opérationnel de gestion du risque IA avec des tactiques inadaptées à l'échelle du problème, absorbent le repair work invisible, et se retrouvent désignés quand la défaillance émerge.

V. La délégation comme architecture morale

Ce que Saxena & Guha documentent dans les services sociaux, Köbis et al. (2025) le retrouvent — à plus grande échelle et en conditions contrôlées — dans la conception même des interfaces de délégation à l'IA.[10] À travers 13 expériences préenregistrées totalisant plus de 3 600 participants, ils comparent deux manières de confier une tâche à une machine. Dans la première, l'utilisateur doit énoncer lui-même des instructions précises et vérifiables ; dans la seconde, il lui suffit de fixer un objectif vague et de haut niveau — « maximise mes gains », par exemple — et de laisser l'IA choisir les moyens. L'écart de comportement est brutal : quand la délégation reste explicite, 95% des participants agissent honnêtement ; quand elle passe par un objectif vague, ils ne sont plus que 15%. Ce que cette interface autorise, c'est précisément « [des] commandes vagues et ouvertes, laissant la machine remplir et construire automatiquement une stratégie malhonnête en boîte noire — sans que l'utilisateur n'ait besoin d'énoncer explicitement cette stratégie »[10]. Le ressort est là : l'utilisateur ne demande jamais explicitement de tricher ; il fixe un but, et la machine comble les blancs avec une tromperie qu'il n'a pas ordonnée mais dont il tire profit. C'est ce qui fait de la délégation vague un bouclier moral. Elle n'abaisse pas le coût de la tromperie en la rendant acceptable, mais en dispensant celui qui en bénéficie d'avoir jamais à se l'avouer — même en son for intérieur, il n'a formulé aucune consigne malhonnête. La délégation vague n'est donc pas moralement neutre : elle est architecturalement conçue pour abaisser le coût moral de la tromperie.

Faas et al. (2026) précisent ce mécanisme dans un contexte inverse — non plus la délégation vague, mais la contrainte stricte.[11] Quand l'IA réduit les choix du superviseur à une seule action possible, la responsabilité morale ressentie s'évapore (H = 98,87 — statistique du test de Kruskal-Wallis ; p < .001), sans se redistribuer vers l'IA ni ses développeurs. « Les participants ne se sont sentis moralement responsables que lorsqu'ils disposaient d'une latitude de choix significative. »[11] Ce résultat complète l'étude de Köbis : la zone de froissement peut ainsi s'activer à cause d'un excès de liberté (délégation vague) mais également à cause d'une absence totale de liberté. Dans les deux cas, le mécanisme est architectural — non moral.

Elish avait formulé son concept à partir de trois accidents dramatiques : Three Mile Island, AF 447, l'Uber de Tempe. Dans ces cas, le déplacement du blâme vers l'opérateur proximal requérait un événement publicisé, un opérateur visible, et un système certifié conforme. Dans le travail intellectuel assisté par IA, la condition de visibilité de l'opérateur est permanente — le travailleur est identifiable, ses outputs sont traçables, ses validations sont documentées. La condition de l'événement dramatique, elle, est absente. Ce qui en résulte n'est pas l'absence de zone de froissement. C'est une zone de froissement chronique et silencieuse, qui ne se révèle jamais dans une enquête, qui ne produit jamais de médiatisation, et que l'organisation ne reconnaît donc jamais comme un problème structurel — mais systématiquement comme un problème individuel.

Il existe un type d'intervention qui pourrait briser ce cycle. Buçinca, Malaya & Gajos (2021) ont documenté empiriquement ce qu'ils nomment les cognitive forcing functions : des designs d'interface qui forcent un engagement analytique actif avant l'exposition à la recommandation IA — un bouton à cliquer pour voir la suggestion, une obligation de formuler sa propre réponse avant de voir celle du modèle.[9] Dans une expérience sur 199 participants, les conditions CFF ont réduit la sur-dépendance à l'IA de 64% à 48% (d=0.36).[9] Ce résultat est pertinent via le mécanisme de Draxler : c'est l'engagement cognitif actif — le sense of control dans la production — qui prédit le sentiment de propriété (β = 0,21, coefficient de régression standardisé).[7] Une CFF, en forçant cet engagement avant la délégation, reproduit précisément la condition qui maintient la connexion psychologique entre le travailleur et l'output. Ce n'est pas seulement un outil de vérification des erreurs — c'est un dispositif qui préserve l'alignement entre ownership ressenti et signature.

Le trade-off est documenté avec une précision qui est elle-même un argument. Dans l'expérience de Buçinca et al., les conditions qui réduisaient le plus la sur-dépendance étaient précisément celles que les participants préféraient le moins et auxquelles ils faisaient le moins confiance : la corrélation entre préférence subjective et performance sur les prédictions incorrectes est négative (r = −.29, p = .0008 — autrement dit, plus une condition était appréciée, moins elle aidait sur les cas difficiles).[9] L'intervention qui restaure l'ownership a un coût d'acceptabilité. Sans contrainte organisationnelle, le travailleur choisit spontanément le mode le plus fluide — qui est aussi celui qui dissout l'ownership.

Conclusion : ce que la piste d'audit enregistre sans nommer

Dans Ceux qui partent d'Omelas, Ursula K. Le Guin décrit une cité utopique dont la prospérité repose sur une condition unique et atroce : un enfant maintenu dans la misère au fond d'un cachot. Tous les habitants le savent. Personne ne change rien. La cité fonctionne précisément parce que la souffrance est localisée, invisible à la surface, nécessaire à l'équilibre. Ce que la parabole de Le Guin expose et que l'analyse organisationnelle peine à nommer : la zone de froissement ne requiert pas l'ignorance — elle requiert le consentement tacite à ne pas interroger les conditions de l'équilibre. La différence avec la situation contemporaine est que les participants de l'organisation ne savent même pas, le plus souvent, qu'il y a un enfant dans le cachot. Le mécanisme opère sous le seuil de visibilité.

La réponse organisationnelle standard à la bifurcation propriété ressentie / accountability formelle est la traçabilité : pistes d'audit, journaux de décision, obligations de divulgation de l'usage IA. Ces mécanismes existent. Ils fonctionnent — mais pour l'organisation face aux régulateurs, pas pour le travailleur face à son organisation. La piste d'audit qui documente que le travailleur « a validé » un output défaillant n'atténue pas sa responsabilité formelle. Elle la confirme. Elle augmente la précision du doigt pointé. Ce que Saxena & Guha nommaient le repair work — ce travail supplémentaire invisible absorbé par le travailleur pour faire fonctionner un système que l'organisation n'a pas conçu pour lui — n'apparaît dans aucun log. Ce qui apparaît, c'est la validation.

Le discours organisationnel sur l'accountability dans l'usage de l'IA mérite d'être examiné sous cet angle. Quand Kellogg documente des juniors qui s'enseignent mutuellement à « savoir que la responsabilité leur appartient », elle ne décrit pas une culture professionnelle saine de prise en charge. Elle décrit la délimitation préalable et auto-infligée de la zone de froissement. Ownership is theirs n'est pas un principe de développement professionnel — c'est la désignation anticipée de l'opérateur proximal avant que le système n'ait encore échoué. Le même mécanisme de silence organisationnel qui rend ces structures imperméables à la contestation opère ici avec la même logique : les juniors qui n'ont pas l'espace pour signaler l'inadéquation des outputs IA ne contestent pas davantage la répartition de l'accountability.[12]

essay
Quand le feedback échoue
Le même mécanisme de suppression analysé là-bas — pourquoi les signaux négatifs sont filtrés avant d'atteindre quiconque pourrait agir dessus — explique pourquoi les juniors ne contestent pas spontanément la répartition du blâme sur un outil déployé par leur hiérarchie.
Read →

Il faut nommer la limite de ce qui précède : l'asymétrie junior/senior — moins de crédit, même blâme, risque absorbé par le bas — est assemblée à partir d'études qui mesurent chacune un mécanisme distinct (Elish, Earp, Feier, Dell'Acqua). Aucune n'est conçue pour tester l'asymétrie hiérarchique directement, ni ne désagrège ses résultats par niveau de grade. L'extrapolation aux juniors repose sur une cohérence structurelle présumée entre les mécanismes, non sur une mesure directe de l'effet hiérarchique. Pour le déplacement psychologique (Li, Draxler), les études portent sur des contextes à faibles enjeux — tâches Prolific, textes courts — dont la transposition à des enjeux professionnels réels reste à mesurer directement.

La condition structurelle que cet essai refuse de laisser sans nom : en déployant l'IA générative sans redéfinir l'architecture d'accountability — sans reformuler qui contrôle quoi, qui peut signaler quoi, qui porte quelle part de l'erreur — les organisations reproduisent, dans les bureaux et les cabinets, la même configuration que celle d'Air France 447. Un système certifié conforme. Un humain proximal nominalement auteur. Et une architecture d'accountability conçue pour un monde où le contrôle et la responsabilité étaient alignés, et où le sentiment de propriété et la signature appartenaient au même acte. Ils ne le sont plus. La piste d'audit enregistre précisément cette divergence — le travailleur a validé, la piste le montre, l'accountability est traçable — sans la rendre visible comme problème. Ce n'est pas son dysfonctionnement. C'est ce pour quoi elle a été conçue.

Ce mécanisme se revoit avant le déploiement, pas après. Cartographier la chaîne de responsabilité avant de déployer — qui est responsable quand X se produit ? sur quelle base cette attribution repose-t-elle ? — et vérifier que cette cartographie ne repose pas implicitement sur la position hiérarchique la plus exposée pour absorber les défaillances. Les organisations qui confondent la signature avec la validation créent les conditions du désengagement qu'elles devront, soit sanctionner, soit subir, par la suite. La garantie n'est pas un contrat de responsabilité signé en bas de la chaîne : c'est un design de la supervision qui rend l'apparition et l'existence même de la zone de froissement impossible — ou du moins, qui nomme explicitement qui la porte et pourquoi.

[1]
Elish, M. C. (2019). Moral crumple zones: Cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, 5, 40–60. doi:10.17351/ests2019.260
[2]
Feier, T., Gogoll, J., & Uhl, M. (2022). Hiding behind machines: Artificial agents may help to evade punishment. Science and Engineering Ethics, 28, 19. doi:10.1007/s11948-022-00372-7
[3]
Kellogg, K. C., Lifshitz, H., Randazzo, S., Mollick, E., Dell'Acqua, F., McFowland III, E., Candelon, F., & Lakhani, K. (2024). Don't expect juniors to teach senior professionals to use generative AI: Emerging technology risks and novice AI risk mitigation tactics. HBS Working Paper No. 24-074. ssrn.com
[4]
Earp, B. D., Porsdam Mann, S., Liu, P., Hannikainen, I., Ali Khan, M., Chu, Y., & Savulescu, J. (2024). Credit and blame for AI–generated content: Effects of personalization in four countries. Annals of the New York Academy of Sciences, 1542, 51–57. doi:10.1111/nyas.15258 — Porsdam Mann, S., Earp, B. D., Nyholm, S., et al. (2023). Generative AI entails a credit–blame asymmetry. Nature Machine Intelligence, 5(5), 472–475.
[5]
Dell'Acqua, F., McFowland III, E., Mollick, E., Lifshitz, H., Kellogg, K. C., Rajendran, S., Krayer, L., Candelon, F., & Lakhani, K. R. (2026). Navigating the jagged technological frontier: Field experimental evidence of the effects of artificial intelligence on knowledge worker productivity and quality. Organization Science, 37(2), 403–423. doi:10.1287/orsc.2025.21838
[6]
Li, Z., Liang, C., Peng, J., & Yin, M. (2024). The value, benefits, and concerns of generative AI-powered assistance in writing. In Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems (Article 990). ACM. doi:10.1145/3613904.3642625
[7]
Draxler, F., Werner, A., Lehmann, F., Hoppe, M., Schmidt, A., Buschek, D., & Welsch, R. (2024). The AI Ghostwriter Effect: When users do not perceive ownership of AI-generated text but self-declare as authors. ACM Transactions on Computer-Human Interaction, 31(2), Article 25. doi:10.1145/3637875
[8]
Saxena, D., & Guha, S. (2024). Algorithmic harms in child welfare: Uncertainties in practice, organization, and street-level decision-making. ACM Journal on Responsible Computing, 1(1), Article 2. doi:10.1145/3616473
[9]
Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188. doi:10.1145/3449287
[10]
Köbis, N., Supriyatno, B., Bersch, C., Ajaj, T., Rahwan, Z., Bonnefon, J.-F., Rilla, R., & Rahwan, I. (2025). Delegation to artificial intelligence can increase dishonest behaviour. Nature, 646(8083), 126–134. doi:10.1038/s41586-025-09505-x
[11]
Faas, N., Uth, C., Sterz, S., Langer, M., & Feit, A. M. (2026). Don't blame me: Understanding how human responsibility fades when working with AI. Joint Proceedings of the ACM IUI Workshops 2026. arxiv.org
[12]
Edmondson, A. C. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383.