Le digital et l’IA sont à notre image

L’outil est supposé servir la finalité pour laquelle il a été conçu. C’est une évidence pour beaucoup de professionnels en entreprise, surtout pour celles et ceux qui sont commanditaires de solutions digitales de tout type.

Et, pour autant, si je donne des marteaux à un groupe de personnes, il n’est pas improbable qu’une grande partie d’entre elles se mettent à voir des clous partout, au point de ne plus chercher de tournevis lorsqu’une vis pointe le bout de son nez.

On le sait depuis les philosophes anciens, la relation entre l’être humain et l’outil est bijective. L’outil influence les comportements humains et, à l’inverse, la culture des êtres humains – ce qu’ils sont – influence évidemment leur utilisation des outils. Outils et culture sont intimement liés.

Mais si nous utilisons les outils comme nous sommes, il en va de même lorsque nous les pensons. Alors, le digital et l’IA sont à notre image, c’est quoi l’histoire ?

La démocratisation récente de l’IA générative a aussi contribué à la médiatisation du débat sur les biais dont elle est porteuse. On y évoque notamment, à juste titre, les biais liés aux données sur lesquelles elles sont entraînées.

Mais les plus attentifs sont aussi conscients des biais liés à la manière dont les algorithmes sont conçus ou pensés, biais en partie liés – même si ce n’est pas la seule raison – à la culture de celles et ceux qui les conçoivent.

En la matière, il n’est pas bien difficile de comprendre que la culture de ceux qui pensent quelque chose influence la manière dont ce quelque chose fonctionne.

Est-ce que les algorithmes des réseaux sociaux, auxquels nous sommes parfois asservis, qui sont le plus souvent d’origine Nord-Américaine – du moins en France – auraient privilégié les mêmes types de critères s’ils avaient été conçus par des Béninois, des Mauriciens, des Lapons ou des Kanaks ? Rien de moins sûr.

À l’image de la pensée managériale dominante dans nos entreprises qui est pour l’essentiel « occidentalo-centrée », il est aisé de comprendre qu’il en va de même pour des sujets comme l’IA et ses algorithmes.

Ce qui est peut-être moins intuitif, ou moins flagrant, pour beaucoup de professionnels en entreprise, c’est qu’il en est rigoureusement de même pour tout projet digital. En ce sens, on serait même tenté de dire qu’on a le digital qu’on mérite.

Mais c’est biaisé puisqu’on ne mérite pas une culture qui est la nôtre. On l’a et c’est tout. Donc on dira plutôt que le digital est le reflet de ce que nous sommes. Les projets digitaux sont le reflet de la culture de ceux qui les souhaitent, les pensent, les conçoivent puis les mettent en œuvre.

Ce n’est pas qu’une affaire d’usage et d’expérience utilisateurs, toujours prêts à contourner la rigidité des programmes quand cela ne leur convient pas. C’est aussi une question de biais culturels en amont.

C’est en partie ce que d’aucuns appellent la loi de Conway exprimée par un certain Melvin Conway qui affirme en ce sens : « Toute organisation qui conçoit un système, au sens large, concevra une structure qui sera la copie de la structure de communication de l’organisation. » (Conway M.,1968)

Selon Wikipedia, un des militants de l’Open Source, Eric Raymond, co-fondateur de l’Open Source Initiative, aurait ainsi caricaturé en disant que « si vous avez quatre équipes travaillant sur un compilateur, vous aurez un compilateur à quatre étapes ».

Or, au-delà même de cet effet de l’organisation sur la conception, ce que l’on observe en entreprise, sans le démontrer formellement, c’est la même nature de lien avec la culture et les représentations dominantes.

Une entreprise inscrite dans le culte de la norme et du contrôle, fortement hiérarchisée, où règne une culture de la production, pensera peut-être son CRM de manière moins orientée client par rapport à une entreprise qui met ce dernier réellement au centre de ses préoccupations.

Cela ne se limite évidemment pas à la manière de penser l’outil digital, qui est le plus souvent une pâle copie de processus existants que l’on ne cherche ni à réinterroger ni à optimiser pour l’occasion, c’est aussi la manière de conduire les projets et de les accompagner.

Accompagner, tiens encore un mot de consultant qui accompagne tout plutôt que de délivrer, non je blague. Tu parles ici de conduite du changement, d’appropriation des outils etc. Bien sûr que c’est le reflet de la culture dominante.

Cette entreprise qui déteste les normes et leur formalisation, ce qu’elle porte de manière quasi viscérale, lorsqu’elle se lance dans un ambitieux projet d’ERP dans un souci légitime d’optimisation ou de traçabilité…

Et bien elle le conduit avec tout ce qui la caractérise, en l’occurrence la cacophonie, le manque de rigueur et de discipline qui fait aussi sa force d’adaptation.

Après tout ce sont des évidences, cela devrait sauter aux yeux. En cette matière comme dans un projet de fusion-acquisition par exemple. Pourtant, face à autant d’évidence, deux remarques nous viennent à l’esprit.

La première vient d’être formulée en filigrane. Puisque c’est si évident que cela pourquoi tant de projets informatiques d’ampleur se plantent à cause de ces facteurs humains et culturels insuffisamment pris en compte à chacune des étapes.

Va savoir pourquoi chef ! Cela doit être tellement évident qu’on passe à côté comme dans la « lettre volée » d’Edgar Allan Poe tellement visible qu’on ne la voit plus.

La seconde remarque est en revanche peut-être moins évidente en tant que telle mais cela nous semble clé de l’avoir aussi en tête.

Si l’on est conscient de cette forte influence de la culture sur la conception des projets digitaux et qu’on est soucieux d’en tenir compte dans un souci d’efficacité, alors il faut se prémunir des risques liés aux effets de halo.

S’il peut y avoir une culture forte et dominante dans une entreprise, en particulier lorsque celle-ci est grande, internationale ou simplement éclatée, il serait hasardeux de réduire toutes ces cultures à cette seule culture dominante.

C’est précisément dans les équilibres que se jouent le succès du projet, entre d’une part la nécessité d’harmonie avec les principaux traits culturels dominants mais aussi de respect des identités particulières.

Une affaire de nuances, comme en beaucoup de situations, dont on peut penser que les amateurs de déploiement informatique en mode Big Bang ne sont pas les plus grands promoteurs, mais c’est un autre sujet.

En résumé, la culture d’entreprise, ou les cultures qui coexistent au sein d’une même entreprise, conditionnent très fortement la manière dont on y pense et mène des projets digitaux de toute nature. Le digital est en cela un miroir culturel. Il faut donc en tenir compte à chaque étape.

J’ai bon chef ?

Oui tu as bon mais on ne va pas en faire toute une histoire.