La loi de Gall
Un système complexe qui marche est toujours issu d’un système simple qui marchaitJohn Gall, pédiatre et théoricien des systèmes, Systemantics, 1975. Un système complexe conçu d’un seul bloc ne marche jamais, et on ne peut pas le réparer pour qu’il marche : il faut repartir d’un système simple qui fonctionne. C’est l’histoire de beaucoup de grands projets informatiques publics. Tu dois déployer un nouvel outil de gestion client avec huit modules.
Louvois, la solde des militaires
En 2011, le ministère de la Défense déploie Louvois, un logiciel unique censé calculer la solde de tous les militaires à la place de plusieurs systèmes existants. Les erreurs s’enchaînent : soldes non versées, d’autres versées en double, des familles en difficulté. Fin 2013, le ministre Jean-Yves Le Drian annonce son abandon. Son remplaçant, Source Solde, est déployé progressivement, armée par armée, à partir de 2017.
À retenir : un système complexe livré d’un bloc ne se répare pas{NB}: on repart d’un système plus simple et on étend par étapes.
Source : Cour des comptes, travaux sur la solde des militaires ; ministère des Armées.
Pourquoi le « big bang » échoue. Huit modules à 85 % donnent un ensemble qui marche dans 27 % des cas, et quand il ne marche pas, personne ne sait d’où vient la panne.
Le petit système qui marche. C’est la logique du produit minimum viable : une version qui sert déjà, puis des briques ajoutées et testées une à une.
Les accidents normaux
Dans un système complexe et serré, la catastrophe finit par arriverLe sociologue Charles Perrow étudie l’accident nucléaire de Three Mile Island (1979) et publie Normal Accidents en 1984. Quand les étapes s’enchaînent sans tampon, une petite panne se propage avant qu’on ait le temps de réagir. L’accident n’est pas une anomalie, c’est une propriété du système. Ta chaîne logistique compte douze étapes.
La grande panne d’électricité du Nord-Est américain
Le 14 août 2003, dans l’Ohio, des lignes à haute tension surchargées touchent des arbres mal élagués. Au même moment, le système d’alarme de l’opérateur local est bloqué par un bug logiciel : personne ne voit rien. Les surcharges se propagent de ligne en ligne en quelques minutes. Environ 50 millions de personnes se retrouvent sans électricité aux États-Unis et au Canada.
À retenir : dans un réseau serré, deux petits incidents banals suffisent à une catastrophe. Des tampons et des coupe-circuits valent mieux que des contrôles en plus.
Source : U.S.-Canada Power System Outage Task Force, rapport final, avril 2004.
Le piège du contrôle. Ajouter des vérifications partout ajoute aussi des étapes qui peuvent elles-mêmes flancher. Perrow montre que la sécurité vient d’abord du découplage.
Efficacité contre résilience. Le flux tendu supprime les tampons, donc les amortisseurs. La pandémie de 2020 l’a rappelé à beaucoup de chaînes d’approvisionnement.
Les effets pervers
Une mesure bien intentionnée peut produire l’inverse de ce qu’elle viseHanoï, 1902. L’administration coloniale française paie une prime pour chaque queue de rat rapportée, afin de vider les égouts. On voit bientôt des rats sans queue dans les rues : on coupe la queue et on relâche l’animal, qui fera d’autres rats. Certains se mettent à en élever. L’historien Michael Vann a reconstitué l’affaire. Refais l’expérience.
Mexico interdit de rouler un jour par semaine
Pour réduire la pollution, Mexico lance en 1989 « Hoy No Circula » : chaque voiture est interdite de circuler un jour de semaine, selon le dernier chiffre de sa plaque. Beaucoup de ménages achètent alors une deuxième voiture, souvent ancienne et plus polluante. L’économiste Lucas Davis ne trouve aucune amélioration mesurable de la qualité de l’air.
À retenir : une contrainte crée toujours une réponse. Se demander ce que les gens feront pour la contourner avant de la lancer.
Source : Lucas W. Davis, « The Effect of Driving Restrictions on Air Quality in Mexico City », Journal of Political Economy, 2008.
Les effets de second ordre. Toujours se demander : « Et ensuite, que vont faire les gens ? » Le premier effet est voulu, le second l’est rarement.
Payer le résultat, pas l’indicateur. La queue est un indicateur facile à fabriquer. Un quartier vérifié propre l’est beaucoup moins. C’est Goodhart, en version système.
Les rendements décroissants
Chaque euro de plus rapporte moins que le précédentFormulée par les économistes classiques, Turgot puis Ricardo, à propos de la terre agricole : le premier sac d’engrais fait des miracles, le dixième presque rien. C’est vrai d’un budget publicitaire, d’heures de travail, de réunions. Le bon réflexe : comparer le gain du dernier euro, pas la moyenne. Tu as 100 000 € à répartir entre deux canaux d’acquisition.
Les heures des ouvriers de munitions
L’économiste John Pencavel, de Stanford, réanalyse les données d’ouvriers et d’ouvrières de munitions britanniques pendant la Première Guerre mondiale. Jusqu’à environ 50 heures par semaine, la production suit les heures. Au-delà, la production horaire baisse ; au-delà d’environ 55 heures, les heures en plus n’ajoutent presque plus rien à la production totale.
À retenir : l’heure de trop coûte autant qu’une autre et rapporte presque rien. Le dernier effort est celui qu’on évalue.
Source : John Pencavel, « The Productivity of Working Hours », The Economic Journal, 2015.
La règle de l’égalité à la marge. La meilleure répartition est atteinte quand le dernier euro rapporte autant dans chaque canal. Sinon, déplace un euro vers celui qui rapporte le plus.
Moyenne trompeuse. Un canal peut avoir un excellent retour moyen et un dernier euro qui ne rapporte presque plus rien. C’est ce dernier euro qu’on décide.
Les boucles de rétroaction
Ce qui s’amplifie de lui-même, et ce qui se freine de lui-mêmeJay Forrester, au MIT, fonde la dynamique des systèmes dans les années 1950 ; Donella Meadows la rend accessible dans Thinking in Systems (2008). Deux boucles suffisent à expliquer la plupart des courbes d’entreprise : le renforcement (le bouche-à-oreille amène des clients qui en parlent) et la régulation (le marché se sature, les clients partent). Lance une appli et règle les deux.
Silicon Valley Bank, une panique en 48 heures
Le 8 mars 2023, Silicon Valley Bank annonce une perte sur ses obligations et une augmentation de capital. Des fonds d’investissement conseillent à leurs startups de retirer leurs dépôts ; chaque retrait annoncé sur les messageries en provoque d’autres. Le 9 mars, les clients demandent 42 milliards de dollars de retraits. Le 10 mars, la banque est fermée par les autorités.
À retenir : une boucle de renforcement transforme une inquiétude en effondrement. Plus l’information circule vite, plus la boucle tourne vite.
Source : Federal Reserve, Review of the Federal Reserve’s Supervision and Regulation of Silicon Valley Bank, avril 2023.
Toute croissance rencontre un frein. Le marché, la capacité, l’équipe, le cash. Repérer la boucle de régulation qui va gagner, c’est prévoir le plateau.
Les départs comptent double. À taux de bouche-à-oreille égal, réduire l’attrition relève le plafond et retarde le déclin.
Détecteur d’effets pervers
Atelier À passer avant de lancer une prime, un objectif ou une règleÀ toi. Décris une mesure que tu t’apprêtes à lancer : une prime, un objectif chiffré, une nouvelle règle, une réorganisation. Réponds à sept questions issues des lois de ce chapitre. L’outil estime le risque d’effet pervers, prédit les comportements de contournement et propose les garde-fous. Tout est sauvegardé dans ton navigateur.
Ta synthèse
Décris ta mesure et réponds aux questions pour voir le diagnostic.
Gall
Partir d’un petit système qui marche, puis ajouter brique par brique.
Perrow
Des tampons entre les étapes plutôt que des contrôles en plus.
Effets pervers
Toujours se demander ce que les gens feront ensuite.
Rendements et boucles
Décider au dernier euro, et repérer le frein avant le plateau.
Pour aller plus loin
- John Gall, Systemantics, 1975.
- Charles Perrow, Normal Accidents: Living with High-Risk Technologies, 1984.
- Michael G. Vann, « Of Rats, Rice, and Race: The Great Hanoi Rat Massacre », French Colonial History, 2003.
- Anne Robert Jacques Turgot, 1767 ; David Ricardo, Des principes de l’économie politique et de l’impôt, 1817.
- Jay W. Forrester, Industrial Dynamics, 1961 ; Donella H. Meadows, Thinking in Systems, 2008.