La violence de la boîte noire

L’IA générative, c’est l’alpha et l’oméga de tout, donc du travail aussi, non ? Grâce à l’IA le travail ne sera plus jamais un fardeau mais une expérience épanouissante, source de bonheur. Beaucoup d’experts auto-proclamés le disent, c’est donc vrai !

Tu as fumé la moquette du techno-marketing, tu cours après les cachets du nouvel eldorado, tu es illuminé par les influenceurs de pacotilles du moment ? Tu as la dalle à ce point ?

Bon, sérieusement, certaines et certains ont vu dans l’IA tout un tas de promesses, que ce soit l’espoir d’une réduction des discriminations ou une forme de libération des tâches aliénantes du travail… Des promesses, des promesses, toujours des promesses.

Mais au-delà des promesses déçues, il y a peut-être aussi le revers de la médaille. Or, en la matière, comme tout outil impactant et structurant, l’IA est une arme à double tranchant. Alors, la violence de la boîte noire, c’est quoi l’histoire ?

Le numérique au sens large, des ERP des années 90 à l’IA générative d’aujourd’hui, transforme de fait le travail, son organisation et les contraintes qui affectent celles et ceux qui le vivent.

Les deux facettes, négatives et positives, sont alors quasi inévitables, à cause de la nature même des outils et des technologies qu’ils embarquent comme de l’utilisation que nous en faisons.

C’est une occasion d’ailleurs pour rappeler à celles et ceux qui diabolisent l’IA que ce n’est pas l’IA qui déshumanise mais nous-mêmes par l’usage que nous en faisons. On ferme la parenthèse.

En l’espèce, au regard des violences visibles et invisibles que le travail peut charrier, l’IA générative peut ouvrir un champ des possibles – donc des espoirs – pour lutter contre, de manière préventive et curative.

Amélioration de la productivité personnelle pour faciliter une réaffectation du temps à des tâches plus intéressantes par exemple ou encore une meilleure prévention des TMS grâce à des capteurs et une optimisation des gestes traumatisants ou encore une combinaison d’IA et de robotisation pour décharger de tâches pénibles comme soulever des charges et les déplacer etc.

Mais comme toute médaille a son revers, le numérique peut aussi être une source de violences. Augmentation de l’hyperconnexion et des troubles qui vont avec, surveillance exagérée qu’Orwell n’aurait pas reniée ou renforcement des injonctions contradictoires par réduction des marges de manœuvre à cause d’un programme aussi hors sol que rigide.

C’est un paradoxe classique et propre à tout progrès technique. Ce n’est donc pas là le sujet qui nous importe. En revanche, l’IA invite en tant que telle à quelques précautions supplémentaires. Nous aimerions en souligner une en particulier.

Il faut bien le reconnaître, la majorité des utilisateurs professionnels, du moins pour le moment, n’est pas vraiment au fait des mécanismes de la montre pour reprendre l’image du fameux texte d’Einstein et Infeld (Einstein et Infeld, 1938)…

C’est l’effet « boîte noire ». On voit à peu près ce qui y rentre, on constate ce qu’il en ressort, mais entre les deux, la plupart du temps, c’est opaque. Si l’on double d’un enthousiasme exagéré avec la fascination que l’IA exerce sur les imaginaires, on a des ingrédients qui comportent bien un risque.

D’abord celui de se réfugier commodément derrière une sorte de magie technologique à qui l’on prête des vertus qu’elle n’a pas. Donc, dans le même temps, de s’affranchir implicitement de traiter les sujets en profondeur.

L’exemple de l’illusion de lutte contre les discriminations à l’embauche qu’une IA peut tout à fait renforcer plutôt que de corriger, pour de multiples raisons, est à ce titre très illustratif. C’est le propre de la magie… on croit en sa puissance.

On connaît l’adage : « ils croient savoir mais ils ne savent pas qu’ils croient ». Caché avec bonne conscience derrière la croyance en la puissance technologique, on s’en remet à elle, donc on se décharge implicitement de sa propre responsabilité.

L’IA générative présente toutes les caractéristiques d’une totémisation que nous avions déjà décriée concernant le digital. La même histoire se répète inlassablement.

Pour bien se figurer les éventuelles sources de violence liées à l’effet boîte noire, peut-être invisibles mais pas moins dévastatrices, on va prendre un exemple très simple.

Une grande entreprise, soucieuse d’une politique ressources humaines solide, attentive à mettre en place un véritable management des talents, avec une GEPP pensée et outillée, y compris avec des passerelles inter-métiers, s’est dotée d’une IA qui sert de socle à une gestion active des carrières…

Que diriez-vous qu’un algorithme façonne la vôtre ? Un algorithme dont vous connaissez les méandres et les critères factuels aussi bien que vous maîtrisez ceux qui conditionnent la visibilité de vos publications sur un réseau social ?

Ne serait-ce pas là au fond la plus aboutie des étapes ? La violence de l’arbitraire et de l’opacité dans toute sa splendeur ?

Quand le règne de l’arbitraire te tétanise car tu ne sais pas si tu vas te prendre une claque ou une récompense… Le propre de la tyrannie.

Ce n’est là qu’un exemple, mais ce qu’on peut qualifier de syndrome de la boîte noire peut, au fond, constituer à lui seul une forme de violence qu’on ignorerait, aveuglés par l’éclat de la lumière de la modernité et l’excès de confiance dans la technologie qu’elle valorise.

C’est la preuve que toute technologie renvoie à la responsabilité humaine qui préside à son emploi. Celle que ce n’est pas l’IA qui déshumanise mais bien les humains par l’utilisation qu’ils pourraient en faire.

Or, en matière de souffrance au travail, deux facteurs particuliers sont à considérer.

Le premier c’est qu’il ne s’agit pas que de faits objectifs mais de ressentis, de sentiments, chez les personnes concernées.

Le second, c’est que traiter le sujet véritablement, pour la fonction RH comme pour le management, cela exige des examens de conscience et des remises en cause profondes.

Deux raisons supplémentaires pour être vigilant quant au potentiel syndrome de la boîte noire.

En résumé, l’effet boite noire, qui peut résulter de décisions qui concerne les personnes confiées à une IA, est en lui-même un facteur de violence par son caractère opaque et arbitraire. Il faut donc veiller à la transparence des mécanismes et à, ce que ce soit, in fine, des humains qui portent la responsabilité des décisions.

J’ai bon chef ?

Oui tu as bon mais on ne va pas en faire toute une histoire.