IA en entreprise : peut-elle industrialiser nos mauvaises décisions ?
Dans les années 1970, Carlo M. Cipolla, historien de l’économie, formule cinq « lois fondamentales de la stupidité humaine ». Le propos est volontairement humoristique mais repose sur une définition particulière de la stupidité : elle n’est liée ni au niveau d’intelligence, ni au diplôme, ni à la position sociale. Pour Cipolla, un comportement stupide provoque une perte pour les autres sans procurer de bénéfice à celui qui en est à l’origine, voire en lui causant également une perte.
Aujourd’hui, l’intelligence artificielle se voit confier en entreprise des tâches rédactionnelles, d’analyse, de développement, de support, de décision et parfois d’action. Dès lors, la question n’est pas de savoir si une IA peut être stupide. Elle est plutôt de savoir ce que son utilisation produit réellement : crée-t-elle de la valeur, la déplace-t-elle ou permet-elle, au contraire, de la détruire plus efficacement ?
Ce que Cipolla appelait réellement « stupidité »
Pour comprendre cette grille de lecture, revenons sur la définition de la stupidité par Cipolla. Elle repose sur deux axes d’évaluation d’une action :
- Le bénéfice ou la perte pour celui qui agit
- Le bénéfice ou la perte pour les autres
Ces deux axes conduisent à quatre grandes catégories :
Cipolla ne cherche pas à mesurer l’intelligence : il classe les comportements par leurs conséquences. C’est précisément ce qui rend sa grille intéressante lorsque l’on s’interroge sur l’adoption de l’IA en entreprise.
Bien entendu, les lois de la stupidité relèvent avant tout de la satire et non d’une théorie scientifique validée. Elles n’en offrent pas moins une grille de lecture intéressante pour analyser l’IA et ses conséquences en entreprise.
En entreprise, ce n’est pas l’IA qu’il faut placer dans le graphique
Cette grille ne peut cependant pas être transposée telle quelle à l’IA. Une IA ne tire aucun bénéfice personnel ou économique de ses actions. Et déterminer ce qu’un modèle gagne ou perd n’aurait ici aucune base pertinente. Dans le cas de l’IA en entreprise, il est plus pertinent d’analyser l’ensemble du système : l’entreprise, l’IA, ses utilisateurs et tous les acteurs concernés par les conséquences de son utilisation. Dès lors, les deux axes peuvent devenir :
- Valeur créée ou détruite pour l’entreprise
- Valeur créée ou détruite pour ses collaborateurs, clients, partenaires ou autres acteurs concernés
On peut alors se poser la question : l’entreprise crée-t-elle réellement de la valeur avec l’IA, ou ne fait-elle que déplacer les gains et les pertes ? Comment placer les quatre quadrants dans l’entreprise ?
L’usage intelligent
On peut qualifier un usage de l’IA d’intelligent lorsqu’il crée de la valeur à la fois pour l’entreprise et pour les autres acteurs concernés. L’IA améliore un processus, réduit fortement certaines tâches répétitives, facilite l’accès à l’information ou améliore la qualité d’un service. Les bénéfices dans ce cas sont nombreux :
- L’entreprise gagne en efficacité
- Le collaborateur gagne du temps ou dispose d’un meilleur outil
- Le client bénéficie d’un meilleur service
L’IA répond ici à un besoin métier identifié et son utilisation produit un bénéfice qui ne se limite pas à celui qui la déploie.
L’usage naïf
Le cas naïf est plus problématique pour l’entreprise. Prenons une organisation qui investit fortement dans une solution dont elle maîtrise mal la valeur, tandis que le fournisseur de la technologie, ou d’autres acteurs, capte l’essentiel des bénéfices. Abonnements peu utilisés, projets pilotes sans lendemain, dépendance au fournisseur ou coûts d’intégration supérieurs aux gains obtenus : l’entreprise supporte les pertes tandis que d’autres en tirent profit.
Certes, l’IA est présente en entreprise et elle fonctionne. Mais le retour sur investissement pour l’entreprise reste à démontrer. En résumé, on fait de l’IA pour faire de l’IA, sans gain productif identifié pour l’entreprise alors que d’autres acteurs en tirent profit.
L’usage bandit
Dans un usage de type bandit, l’entreprise obtient un bénéfice réel grâce à l’IA, mais une partie du coût ou des conséquences négatives est supportée par d’autres acteurs. Cipolla apporte cependant une nuance importante : tous les comportements de type bandit ne produisent pas le même bilan global. Il distingue plusieurs situations :
- Bandit à tendance intelligente (Bᵢ) : le gain obtenu est supérieur à la perte infligée
- Bandit parfait : le gain équivaut quasiment à la perte infligée
- Bandit à tendance stupide (Bₛ) : le gain obtenu est inférieur à la perte infligée
En entreprise, cette distinction est particulièrement utile. Un ROI positif pour celui qui déploie l’IA ne signifie pas nécessairement que le système crée globalement de la valeur.
L’usage stupide
Une entreprise déploie une IA, mais les collaborateurs passent leur temps à en corriger les résultats. Les processus se complexifient, les clients constatent une dégradation du service et de nouveaux risques apparaissent. Au final, l’entreprise ne réalise ni économie ni gain de productivité. Le déploiement devient alors un échec global.
Prenons l’exemple d’un chatbot mal configuré sur le site d’un opérateur téléphonique. L’utilisateur y perd du temps sans obtenir de réponse satisfaisante. Il finit par contacter le support ou demander à être rappelé. L’entreprise doit alors mobiliser un collaborateur pour reprendre la demande, avec du temps de traitement supplémentaire et un client mécontent. Le client a perdu du temps et l’entreprise n’a finalement rien économisé.
Une position pas toujours définitive
Il faut toutefois rester prudent dans les catégorisations. Cipolla le souligne lui-même pour les individus : une même personne peut, selon les circonstances, adopter un comportement stupide, intelligent, naïf ou bandit. Il en va de même pour un usage de l’IA. Celui-ci peut créer de la valeur dans un contexte, la déplacer dans un autre, voire la détruire.
Sa position dans le graphique dépend donc des conditions dans lesquelles il est utilisé et de ses conséquences réelles : qui gagne, qui perd, de combien et sur quelle période ?
Un exemple concret : l’automatisation du recrutement
Prenons l’exemple d’un processus d’automatisation du recrutement. Un agent IA filtre les candidatures selon certains critères, comme les diplômes ou l’expérience. Selon les conséquences de cette automatisation pour l’entreprise et les candidats, un même usage peut se retrouver dans chacun des quatre quadrants :
L’exemple du recrutement montre qu’un même cas d’usage ne peut pas être qualifié d’intelligent, de naïf, de bandit ou de stupide par nature. Tout dépend de la manière dont les gains et les pertes se répartissent entre les acteurs concernés. Une recherche d’économie peut créer de la valeur, la déplacer ou, dans certains cas, finir par en détruire également pour l’entreprise.
Les cinq lois de Cipolla relues à l’ère de l’IA
La sophistication d’une IA ne garantit pas la pertinence de son usage. Une erreur qui aurait auparavant pu être corrigée localement peut désormais être reproduite, intégrée dans un processus puis automatisée. Avec les agents IA, elle peut même être transformée en action.
L’IA peut ainsi amplifier aussi bien un processus efficace qu’un processus défaillant. Une mauvaise décision à laquelle nous donnons davantage de vitesse, de capacité d’action ou un périmètre plus large peut produire des conséquences sans commune mesure avec l’erreur initiale.
C’est peut-être là que la quatrième loi de Cipolla prend une dimension particulière avec l’IA : nous pouvons sous-estimer non seulement l’erreur, mais aussi la capacité du système à la reproduire et à la propager.
Les cinq lois offrent ainsi différentes lectures de nos usages de l’IA en entreprise, résumées dans le graphique suivant.
Les cas particuliers
En entreprise, certains usages peuvent se situer à la frontière de plusieurs catégories. Ce sont leurs conséquences réelles qui détermineront leur position dans la grille de Cipolla :
- Le Shadow IA : un collaborateur qui utilise une IA non déclarée en entreprise n’est pas automatiquement dans une situation de bandit. L’utilisation de données confidentielles crée un risque, mais pas nécessairement une perte au sens de Cipolla. Si le collaborateur gagne en productivité sans perte identifiée pour l’entreprise, l’usage peut rester créateur de valeur. Si ce gain s’accompagne d’une perte pour l’entreprise, il peut alors basculer vers la catégorie bandit. L’enjeu est donc d’identifier les usages utiles afin de les encadrer plutôt que de laisser leurs risques hors de tout contrôle.
- Agents IA : avec un agent IA, une erreur ne reste plus nécessairement une simple réponse incorrecte. Si l’agent dispose d’outils et de droits suffisants, il peut transformer cette erreur en action : modifier une donnée, envoyer un message, déclencher un processus ou agir sur un système. L’enjeu est donc moins de savoir dans quelle catégorie de Cipolla classer l’agent que de mesurer jusqu’où peuvent aller les conséquences lorsqu’il se trompe. Plus son autonomie est importante, plus ses permissions et son périmètre d’action doivent être maîtrisés. Avec un agent, l’erreur ne change pas forcément de nature. Ce sont ses conséquences qui peuvent changer d’échelle.
Comment limiter les conséquences ?
Cipolla ne promettait pas d’éradiquer la stupidité. Il la considérait comme une constante avec laquelle il fallait composer. Transposée à l’IA en entreprise, cette idée invite moins à chercher à empêcher toute erreur qu’à éviter qu’une erreur ne produise des conséquences disproportionnées.
La première question reste celle qui structure toute la grille de Cipolla : qui gagne et qui perd ? Un projet IA devrait donc être évalué sur la valeur qu’il produit réellement, mais aussi sur les coûts et les pertes qu’il peut déplacer vers d’autres acteurs.
Cela suppose d’abord de comprendre et de maîtriser un processus avant de chercher à l’automatiser. Automatiser un processus inefficace ou mal conçu ne le rend pas meilleur. L’IA peut simplement lui permettre de fonctionner plus vite et à plus grande échelle.
Il faut ensuite limiter les conséquences possibles d’une erreur, particulièrement lorsque l’IA dispose d’une capacité d’action sur le système.
Enfin, le bilan doit être réévalué dans le temps. Un usage initialement créateur de valeur peut voir apparaître des coûts de contrôle, de maintenance, de dépendance ou des effets qui n’avaient pas été anticipés lors de son déploiement.
L’objectif n’est donc pas d’empêcher toute erreur, mais d’éviter qu’une erreur locale ne devienne une perte collective.
Conclusion
Quand Cipolla a écrit les lois fondamentales de la stupidité, ChatGPT, les LLM et les agents autonomes étaient de la science-fiction. Ses lois n’ont bien entendu pas été conçues pour analyser l’intelligence artificielle. Mais elles posent tout de même une question qui reste étonnamment pertinente pour l’usage de l’IA en entreprise :
Qui gagne et qui perd ?
Chaque projet IA devrait conduire à se poser cette question, bien plus utile que de savoir si la technologie utilisée est innovante. L’entreprise y gagne-t-elle vraiment ? Les collaborateurs y gagnent-ils en productivité ? Les clients en bénéficient-ils également ? Et si le système se trompe, que se passe-t-il ?
L’intelligence artificielle peut permettre d’industrialiser des processus efficaces et de créer de la valeur considérable. Mais l’automatisation possède une propriété qui est moins souvent mise en avant :
Elle permet d’industrialiser ce qui ne fonctionne pas.
Aussi, avant de demander ce que l’IA peut faire pour votre entreprise, ne faudrait-il pas commencer par se demander ce que nous risquons de lui faire faire ?
Sources :
Livre de Carlo M. Cipolla, « Les lois fondamentales de la stupidité humaine » :
https://www.puf.com/les-lois-fondamentales-de-la-stupidite-humaine
Pour aller plus loin:
Agents IA : ce que vos réflexes de sécurité ne couvrent pas:
